1
00:00:03,003 --> 00:00:05,405
（盛大的管弦乐曲
演奏）

2
00:00:27,795 --> 00:00:30,163
♪ ♪

3
00:00:41,843 --> 00:00:44,144
（鸟儿叽叽喳喳地叫着）

4
00:00:49,216 --> 00:00:51,519
-（咕噜声）
-（颤音）

5
00:00:55,657 --> 00:00:58,058
（录像机发出咔哒声和呼呼声）

6
00:01:01,194 --> 00:01:02,630
（投影仪点击）

7
00:01:05,332 --> 00:01:09,637
现在，现代的计算机
完全是白痴，

8
00:01:09,671 --> 00:01:12,507
但这不是真的
在另一代人中。

9
00:01:12,540 --> 00:01:15,342
他们会开始思考，
最终他们会

10
00:01:15,375 --> 00:01:17,845
完全超越
他们的制造者。

11
00:01:17,879 --> 00:01:20,582
这令人沮丧吗？
我不明白为什么会这样。

12
00:01:20,615 --> 00:01:25,352
我怀疑是有机的
或者生物进化

13
00:01:25,385 --> 00:01:27,220
即将结束。

14
00:01:28,322 --> 00:01:29,791
（丹尼尔笑）

15
00:01:29,824 --> 00:01:31,224
卡罗琳：<i>你不需要我</i>
<i>成为叙述者。</i>

16
00:01:31,258 --> 00:01:32,694
<i>我的声音不好。</i>

17
00:01:32,727 --> 00:01:34,461
丹尼尔：<i>你的声音很好听。</i>
<i>就去做吧。</i>

18
00:01:34,494 --> 00:01:36,598
<i>这只是一个--</i>
<i>我们只是尝试一下。</i>

19
00:01:36,631 --> 00:01:38,432
卡罗琳：
<i>我会因为这件事得到报酬吗？</i>

20
00:01:38,465 --> 00:01:40,768
丹尼尔（笑）：<i>嗯，</i>
<i>我们会看看你表现如何。</i>

21
00:01:40,802 --> 00:01:42,202
<i>（卡罗琳笑）</i>

22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-（狗叫声）

23
00:01:46,908 --> 00:01:48,576
卡罗琳：
我需要给我的父母打电话。

24
00:01:48,610 --> 00:01:49,309
（发动机启动）

25
00:01:49,343 --> 00:01:51,478
<i>有时我们会急于做事</i>

26
00:01:51,512 --> 00:01:53,347
<i>没有经过深思熟虑。</i>

27
00:01:53,380 --> 00:01:54,916
丹尼尔：是的，你能……
你想射击吗？那是...

28
00:01:54,949 --> 00:01:57,752
卡罗琳：<i>就像丹尼尔时一样</i>
<i>和卡罗琳结婚了</i>

29
00:01:57,785 --> 00:02:00,755
<i>他们见面 151 天后。</i>

30
00:02:00,788 --> 00:02:02,523
<i>让我们倒带。</i>

31
00:02:03,691 --> 00:02:05,325
（掌声）

32
00:02:05,359 --> 00:02:07,562
你有没有想过
买一台家用电脑？

33
00:02:07,595 --> 00:02:09,631
卡罗琳：
<i>1993 年，丹尼尔出生时，</i>

34
00:02:09,664 --> 00:02:12,533
<i>他的父母甚至没有</i>
<i>家里有一台电脑。</i>

35
00:02:12,567 --> 00:02:14,334
<i>但他记得</i>
<i>当他们终于得到一个时。</i>

36
00:02:14,368 --> 00:02:16,269
电脑对我来说意味着什么

37
00:02:16,303 --> 00:02:18,873
相当于一辆自行车
为了我们的思想。

38
00:02:18,906 --> 00:02:20,608
你好。

39
00:02:20,642 --> 00:02:22,777
卡罗琳：<i>他的电脑帮了忙</i>
<i>释放他的创造力。</i>

40
00:02:22,810 --> 00:02:24,411
丹尼尔：
滚动。去。

41
00:02:24,444 --> 00:02:27,247
卡罗琳：<i>他用了</i>
<i>他爸爸的 iMac 用来编辑视频。</i>

42
00:02:27,280 --> 00:02:28,650
是啊！

43
00:02:28,683 --> 00:02:30,618
卡罗琳：<i>甚至让</i>
<i>小动画。</i>

44
00:02:30,652 --> 00:02:32,419
（轮胎尖叫声、碰撞声）

45
00:02:32,452 --> 00:02:35,690
<i>1998 年，卡罗琳 (Caroline) 还在</i>
<i>一个小女孩...</i>

46
00:02:35,723 --> 00:02:37,290
嗨，妈妈。

47
00:02:37,324 --> 00:02:38,593
<i>...只有书呆子才知道</i>
<i>互联网是什么。</i>

48
00:02:38,626 --> 00:02:40,360
那么呢
互联网这个东西？

49
00:02:40,394 --> 00:02:41,696
-你，你知道什么吗
关于那个？ -当然。

50
00:02:41,729 --> 00:02:43,330
-（观众笑声）
-卡罗琳：<i>但是很快，</i>

51
00:02:43,363 --> 00:02:45,399
<i>-每个人都在...</i>
-...互联网。

52
00:02:45,432 --> 00:02:47,467
<i>...而计算机</i>
<i>在国际象棋中击败人类。</i>

53
00:02:47,502 --> 00:02:50,470
播音员：深蓝——
卡斯帕罗夫辞职了！

54
00:02:50,505 --> 00:02:52,874
卡罗琳：<i>到时候</i>
<i>卡罗琳上了大学，</i>

55
00:02:52,907 --> 00:02:55,543
<i>计算机</i>
<i>每个人的口袋里。</i>

56
00:02:55,576 --> 00:02:58,713
<i>现在丹尼尔可以拍电影了</i>
<i>用他的手机。</i>

57
00:02:58,746 --> 00:03:02,215
<i>他长大后成为一名艺术家</i>
<i>还有一位电影制片人...</i>

58
00:03:02,249 --> 00:03:04,418
-晚安。
<i>-...卡罗琳也是如此。</i>

59
00:03:04,451 --> 00:03:06,286
切。让我们来一个特写。
那太完美了。

60
00:03:06,319 --> 00:03:07,822
<i>那时，计算机已</i>
<i>连接人</i>

61
00:03:07,855 --> 00:03:09,456
<i>并以多种方式改变世界</i>

62
00:03:09,489 --> 00:03:10,925
<i>我们从来没有</i>
<i>可以想象。</i>

63
00:03:10,958 --> 00:03:12,694
筹集的所有资金
冰桶挑战...

64
00:03:12,727 --> 00:03:14,796
卡罗琳：
<i>其中一些很好。</i>

65
00:03:14,829 --> 00:03:15,963
（喘气）

66
00:03:15,997 --> 00:03:17,565
<i>有些不太好。</i>

67
00:03:17,598 --> 00:03:19,701
焦虑、自残、自杀……

68
00:03:19,734 --> 00:03:21,602
但现在很清楚了
我们做得还不够

69
00:03:21,636 --> 00:03:24,839
以防止这些工具
也被用于伤害。

70
00:03:24,872 --> 00:03:26,741
卡罗琳：<i>作为世界</i>
<i>变得越来越专注</i>

71
00:03:26,774 --> 00:03:28,543
<i>-在他们的计算机上，</i>
-（电话铃声）

72
00:03:28,576 --> 00:03:31,211
<i>丹尼尔专注于他的艺术作品。</i>

73
00:03:32,312 --> 00:03:36,249
<i>无论他走到哪里，</i>
<i>他总是有一本素描本，</i>

74
00:03:36,283 --> 00:03:38,720
<i>包括晚上</i>
<i>他遇见了卡罗琳。</i>

75
00:03:38,753 --> 00:03:41,923
<i>他画了一幅可怕的图画</i>
<i>她，20 分钟后，</i>

76
00:03:41,956 --> 00:03:44,592
<i>他大胆地宣布</i>
<i>他们要结婚了，</i>

77
00:03:44,625 --> 00:03:47,862
<i>正如你所知，他们做到了，</i>
<i>151 天后。</i>

78
00:03:47,895 --> 00:03:50,464
女人：……现在宣布你的名字
丈夫和妻子。

79
00:03:50,497 --> 00:03:51,933
卡罗琳：
<i>他们搬进了一栋可爱的房子......</i>

80
00:03:51,966 --> 00:03:53,433
-丹尼尔：驼鹿，嘿！过来！
<i>-...还有一只狗</i>

81
00:03:53,467 --> 00:03:54,936
<i>像丹尼尔一样愚蠢。</i>

82
00:03:54,969 --> 00:03:57,872
<i>与此同时，计算机</i>
<i>写整篇文章</i>

83
00:03:57,905 --> 00:03:59,707
<i>基于简单的问题，例如，</i>

84
00:03:59,741 --> 00:04:02,777
<i>“建造起来有多难</i>
<i>我后院的一个小屋？”</i>

85
00:04:03,443 --> 00:04:06,514
<i>所以丹尼尔建了一个小屋</i>
<i>在他的后院。</i>

86
00:04:07,380 --> 00:04:10,317
<i>但就在他坐下来开始</i>
<i>正在制作他的下一部电影，</i>

87
00:04:10,350 --> 00:04:14,488
<i>他学会了计算机</i>
<i>现在可以写剧本了。</i>

88
00:04:15,422 --> 00:04:16,891
<i>我的意思是，他们很糟糕，</i>

89
00:04:16,924 --> 00:04:19,326
<i>但他们正在变得更好</i>
<i>非常快。</i>

90
00:04:19,359 --> 00:04:21,929
<i>他们可以创建新图像</i>
<i>以及从头开始的视频，</i>

91
00:04:21,963 --> 00:04:25,032
<i>以及其中一些</i>
<i>甚至可以通过律师资格考试。</i>

92
00:04:25,066 --> 00:04:29,402
不只是通过酒吧，而是
处于前十个百分点。

93
00:04:29,436 --> 00:04:31,038
卡罗琳：
<i>这很令人困惑。</i>

94
00:04:31,072 --> 00:04:32,607
（叹气）

95
00:04:32,640 --> 00:04:35,543
<i>丹尼尔只是想要</i>
<i>为他的心灵提供一辆自行车，</i>

96
00:04:35,576 --> 00:04:39,080
<i>但计算机已经成为</i>
<i>自动驾驶火箭飞船。</i>

97
00:04:39,113 --> 00:04:40,648
（呼啸）

98
00:04:40,681 --> 00:04:42,517
（“我们掌控一切”
由尼尔·杨演奏）

99
00:04:42,550 --> 00:04:45,385
该领域的先驱
人工智能的

100
00:04:45,418 --> 00:04:46,821
<i>正在向国会恳求</i>

101
00:04:46,854 --> 00:04:48,856
<i>通过安全规则</i>
<i>在为时已晚之前。</i>

102
00:04:48,890 --> 00:04:50,858
卡罗琳：<i>现在感觉就像</i>
<i>整个世界</i>

103
00:04:50,892 --> 00:04:53,528
<i>正在急于做某事</i>
<i>没有经过深思熟虑，</i>

104
00:04:53,561 --> 00:04:55,830
<i>每个人都有自己的意见。</i>

105
00:04:56,564 --> 00:05:00,635
<i>它会毁灭世界</i>
<i>还是拯救人类？</i>

106
00:05:00,668 --> 00:05:02,804
<i>信息太多，</i>

107
00:05:02,837 --> 00:05:05,106
<i>这让他感到焦虑，</i>
<i>这让卡罗琳感到焦虑......</i>

108
00:05:05,139 --> 00:05:06,541
（愤怒的尖叫声）

109
00:05:06,574 --> 00:05:08,042
我还没有孩子
但我担心

110
00:05:08,075 --> 00:05:10,645
世界会是什么样子
如果我决定的话。 （笑声）

111
00:05:10,678 --> 00:05:12,947
卡罗琳：
<i>他开始晕眩。</i>

112
00:05:12,980 --> 00:05:14,549
（含糊不清的喋喋不休）

113
00:05:14,582 --> 00:05:17,685
<i>它正在成为</i>
<i>焦虑如山。</i>

114
00:05:19,620 --> 00:05:22,322
- 男人：太可怕了。
-这真是该死的 Siri。

115
00:05:23,124 --> 00:05:25,893
卡罗琳：
<i>所以，丹尼尔决定出去</i>

116
00:05:25,927 --> 00:05:28,529
<i>然后找人</i>
<i>谁可以向他解释一下，</i>

117
00:05:28,563 --> 00:05:30,631
<i>这样他就可以停下来</i>
<i>思考一下</i>

118
00:05:30,665 --> 00:05:33,835
<i>他和卡罗琳可以</i>
<i>继续他们的生活。</i>

119
00:05:33,868 --> 00:05:37,437
♪ 我们掌控一切，
我们一切尽在掌握♪

120
00:05:37,470 --> 00:05:39,006
♪ 我们掌控一切 ♪

121
00:05:39,040 --> 00:05:41,042
♪ 化学计算机
思考电池♪

122
00:05:41,075 --> 00:05:42,877
♪ 我们掌控一切，我们... ♪

123
00:05:42,910 --> 00:05:45,980
<i>这一努力将会取得成果</i>
<i>天真得无可救药</i>

124
00:05:46,013 --> 00:05:49,584
<i>开始最令人困惑的部分</i>
<i>他生命中的一年。</i>

125
00:05:49,617 --> 00:05:50,985
♪ 我们一切尽在掌握... ♪

126
00:05:51,018 --> 00:05:53,420
<i>但据我们所知，</i>
<i>我们有时会急于行事</i>

127
00:05:53,453 --> 00:05:54,956
<i>没有经过深思熟虑。</i>

128
00:05:54,989 --> 00:05:56,791
♪ 化学计算机
思考电池...♪

129
00:05:56,824 --> 00:05:58,491
哦，天哪。怎么了？

130
00:05:58,526 --> 00:06:00,127
卡罗琳：
<i>他有疑问。</i>

131
00:06:00,161 --> 00:06:02,096
<i>仅提问</i>
<i>最聪明的书呆子都能回答。</i>

132
00:06:02,129 --> 00:06:04,665
提交给审讯者。

133
00:06:04,699 --> 00:06:06,399
卡罗琳：
<i>问题如下：</i>

134
00:06:06,433 --> 00:06:09,103
<i>这是世界末日吗</i>
<i>或者他真的有理由</i>

135
00:06:09,136 --> 00:06:10,705
<i>-乐观吗？</i>
-是的。

136
00:06:11,305 --> 00:06:14,407
-♪ 化学计算机思维
电池。 ♪ -（歌曲结束）

137
00:06:14,441 --> 00:06:16,677
卡罗琳：
<i>呃，这样好吗？</i>

138
00:06:16,711 --> 00:06:18,112
丹尼尔：
<i>是的。</i>

139
00:06:18,145 --> 00:06:20,648
<i>那么，首先，</i>

140
00:06:20,681 --> 00:06:22,482
<i>什么是人工智能？</i>

141
00:06:22,516 --> 00:06:25,152
<i>我知道这一定很烦人</i>
<i>对于你来说，那个问题，</i>

142
00:06:25,186 --> 00:06:27,021
但我确实认为这很重要。

143
00:06:27,054 --> 00:06:30,423
所以……人工智能……

144
00:06:30,457 --> 00:06:32,459
（结巴）嗯……

145
00:06:32,492 --> 00:06:34,161
-是啊...
-呃，嗯。

146
00:06:34,195 --> 00:06:35,196
（笑）：
这是个好问题。

147
00:06:35,229 --> 00:06:36,697
-是的，嗯...
-嗯...

148
00:06:36,731 --> 00:06:38,165
丹尼尔：
什么是人工智能？

149
00:06:38,199 --> 00:06:39,634
（笑）

150
00:06:39,667 --> 00:06:41,035
我喜欢那是
第一个问题，

151
00:06:41,068 --> 00:06:43,671
因为没有
清晰一致的答案。

152
00:06:43,704 --> 00:06:45,740
人工智能是

153
00:06:45,773 --> 00:06:51,178
一种有意的
也许是无用的广义术语。

154
00:06:51,212 --> 00:06:53,781
大卫·埃文·哈里斯：
这是一台机器

155
00:06:53,814 --> 00:06:56,083
做那些事
我们之前只认为

156
00:06:56,117 --> 00:06:57,718
人们可以这样做：

157
00:06:57,752 --> 00:07:01,656
提出建议，
决定和预测。

158
00:07:01,689 --> 00:07:07,228
人工智能是，呃，应用程序
计算机科学的

159
00:07:07,261 --> 00:07:09,664
来解决认知问题。

160
00:07:09,697 --> 00:07:13,768
好吧，当我想象人工智能时，

161
00:07:13,801 --> 00:07:17,204
<i>有点像</i>
<i>这个神奇的电脑盒子...</i>

162
00:07:17,238 --> 00:07:19,640
♪ ♪

163
00:07:20,708 --> 00:07:24,645
<i>...只是，就像，漂浮</i>
<i>在惰性空间中。</i>

164
00:07:24,679 --> 00:07:26,847
而且不管怎样
人们尝试了多少次

165
00:07:26,881 --> 00:07:30,051
并向我解释一下，
我只是不明白怎么...

166
00:07:30,084 --> 00:07:32,887
<i>如何理解</i>
<i>所有这些</i>

167
00:07:32,920 --> 00:07:36,190
<i>感觉如何</i>
<i>智力。</i>

168
00:07:36,223 --> 00:07:37,692
（嘟嘟声、电子颤音）

169
00:07:37,725 --> 00:07:39,927
<i>那就是这样</i>
<i>令人心碎。</i>

170
00:07:41,729 --> 00:07:46,499
阿扎·拉斯金：<i>什么是</i>
<i>新一代人工智能？</i>

171
00:07:47,535 --> 00:07:50,638
这个人工智能不同于
每隔一代？

172
00:07:50,671 --> 00:07:53,040
就像，从来没有人
谈论过，比如，

173
00:07:53,074 --> 00:07:57,545
Siri 接管世界
或造成灾难。

174
00:07:57,578 --> 00:07:59,080
-女人：嗨，Siri？
-男人：……想要。

175
00:07:59,113 --> 00:08:01,115
女人：
你好？西里？

176
00:08:01,148 --> 00:08:02,984
你好？嘿，西里！

177
00:08:03,017 --> 00:08:06,253
或者谷歌地图中的声音，
道路名称的发音错误，

178
00:08:06,287 --> 00:08:07,888
就像破坏社会一样。

179
00:08:07,922 --> 00:08:10,992
男人：谷歌地图说
这是一条路。

180
00:08:11,025 --> 00:08:13,627
（笑）：
但我想我是在河里。

181
00:08:13,661 --> 00:08:14,996
这绝对是一条河，
是吗？

182
00:08:15,029 --> 00:08:17,898
有些事情发生了变化
随着 ChatGPT 的出现。

183
00:08:18,532 --> 00:08:20,568
人们明白——不，不，不——

184
00:08:20,601 --> 00:08:21,869
这项技术的
非常有价值，

185
00:08:21,902 --> 00:08:24,005
它非常强大
而且也非常可怕。

186
00:08:24,038 --> 00:08:25,940
好吧，听听这个。
非常令人毛骨悚然。

187
00:08:25,973 --> 00:08:28,976
一种新的人工智能
工具正在迅速传播

188
00:08:29,010 --> 00:08:32,980
撰写整篇论文
几秒钟之内。

189
00:08:36,217 --> 00:08:41,722
人工智能让所有人的力量相形见绌
其他技术的结合。

190
00:08:41,756 --> 00:08:44,058
丹尼尔：
“人工智能让力量相形见绌

191
00:08:44,091 --> 00:08:46,827
所有其他技术
结合起来。”

192
00:08:46,861 --> 00:08:47,762
是的。

193
00:08:47,795 --> 00:08:49,230
你认为这是真的吗？

194
00:08:49,263 --> 00:08:51,265
是的。

195
00:08:51,298 --> 00:08:53,567
告诉我——如何？如何？

196
00:08:53,601 --> 00:08:57,038
我想，要描绘这幅画，
这真的很重要

197
00:08:57,071 --> 00:09:01,175
了解今天的内容
最先进的系统

198
00:09:01,208 --> 00:09:02,777
它们的外观以及构造方式。

199
00:09:02,810 --> 00:09:06,280
（笑）这是
相当……相当的设置。

200
00:09:06,313 --> 00:09:07,782
<i>所以，有一件事</i>

201
00:09:07,815 --> 00:09:10,051
<i>人不多</i>
<i>意识到</i>

202
00:09:10,084 --> 00:09:14,221
像 ChatGPT 这样的系统则不然
由任何人编程。

203
00:09:14,255 --> 00:09:15,756
你是什​​么意思？

204
00:09:15,790 --> 00:09:17,625
相反，它就像
他们长大了。

205
00:09:17,658 --> 00:09:19,727
我们给他们
原始资源，例如，

206
00:09:19,760 --> 00:09:21,629
“这里有很多
计算资源。

207
00:09:21,662 --> 00:09:22,730
这里有很多数据。”

208
00:09:22,763 --> 00:09:24,165
在幕后，这是数学，

209
00:09:24,198 --> 00:09:27,668
数学实际上是
出奇的简单。

210
00:09:27,701 --> 00:09:31,672
丹尼尔：所以 ChatGPT 是一种
人工智能的一部分，但这不是人工智能的全部？

211
00:09:31,705 --> 00:09:33,207
完全。聊天 GPT 是
仅仅是开始，

212
00:09:33,240 --> 00:09:34,675
但这是一个很好的起点。

213
00:09:34,708 --> 00:09:38,145
但我还是不知道
人工智能是什么。

214
00:09:38,179 --> 00:09:40,848
要了解人工智能，
从理解开始

215
00:09:40,881 --> 00:09:43,717
那个情报是关于
识别模式。

216
00:09:43,751 --> 00:09:45,186
- 图案。 - 图案。
- 图案。

217
00:09:45,219 --> 00:09:48,956
COTRA：<i>已显示</i>
<i>数万亿字的文本</i>

218
00:09:48,989 --> 00:09:51,826
<i>跨越数百万个文档</i>
<i>在互联网上。</i>

219
00:09:51,859 --> 00:09:53,127
兰迪玛·费尔南多：
<i>它以文字开头。</i>

220
00:09:53,160 --> 00:09:56,197
他们所做的是
他们拿着课本，

221
00:09:56,230 --> 00:09:59,967
<i>他们还写了诗歌和散文</i>
<i>和说明手册。</i>

222
00:10:00,000 --> 00:10:01,368
大卫·埃文·哈里斯：
<i>他们可以做这样的事情</i>

223
00:10:01,402 --> 00:10:03,370
<i>消化整个互联网，</i>

224
00:10:03,404 --> 00:10:07,108
曾经的每一个字
是一个人写的。

225
00:10:07,141 --> 00:10:10,244
Reddit 主题和社交媒体
以及所有维基百科。

226
00:10:10,277 --> 00:10:14,048
比任何人都多的数据
几辈子都读过。

227
00:10:14,081 --> 00:10:15,950
他们给了这个系统
一份工作。

228
00:10:15,983 --> 00:10:18,953
找出模式并
该信息的结构

229
00:10:18,986 --> 00:10:21,122
并使用它
做出预测

230
00:10:21,155 --> 00:10:23,791
接下来应该是什么词
用一句话来说。

231
00:10:23,824 --> 00:10:25,426
当你说
“句子中的模式，”

232
00:10:25,459 --> 00:10:27,128
你在说什么？

233
00:10:27,161 --> 00:10:29,864
所以，一切都来自，比如，
真正简单的事情，

234
00:10:29,897 --> 00:10:32,266
就像大多数句子的结尾一样
有句号的，

235
00:10:32,299 --> 00:10:35,402
一直到
更多概念性的东西，例如：

236
00:10:35,436 --> 00:10:37,138
什么是十四行诗？

237
00:10:37,171 --> 00:10:39,039
这是一种诗，它有
一些特定的结构。

238
00:10:39,707 --> 00:10:41,809
拉斯金：
<i>因此，它会查看</i>

239
00:10:41,842 --> 00:10:44,011
<i>所有这些数据，</i>
<i>所有这些文字...</i>

240
00:10:44,044 --> 00:10:46,313
COTRA：<i>超过数万亿</i>
<i>和数万亿次尝试，</i>

241
00:10:46,347 --> 00:10:49,150
每次它得到一些东西
对或错，

242
00:10:49,183 --> 00:10:51,819
<i>给出了一点</i>
<i>积极强化</i>

243
00:10:51,852 --> 00:10:53,888
<i>当它猜测时</i>
<i>下一个单词正确，</i>

244
00:10:53,921 --> 00:10:56,090
它被给予了一点点
负强化

245
00:10:56,123 --> 00:10:58,926
<i>当它猜测时</i>
<i>下一个单词不正确。</i>

246
00:10:59,727 --> 00:11:02,029
<i>最后，</i>
<i>你有一个系统</i>

247
00:11:02,062 --> 00:11:05,332
英语说得很好
作为副作用

248
00:11:05,366 --> 00:11:07,168
真的真的很好
在预测

249
00:11:07,201 --> 00:11:09,103
接下来的词
在一段文字中。

250
00:11:09,136 --> 00:11:11,972
（自动语音
说法语）

251
00:11:12,006 --> 00:11:14,308
它使用所有这些模式
它已经学会了

252
00:11:14,341 --> 00:11:16,277
<i>能够做到</i>
<i>关于的预测</i>

253
00:11:16,310 --> 00:11:17,811
<i>答案应该是什么，</i>

254
00:11:17,845 --> 00:11:19,180
<i>然后它给你</i>
<i>作为输出。</i>

255
00:11:19,213 --> 00:11:21,482
自动语音：
有点过于简单化了

256
00:11:21,516 --> 00:11:23,717
但我认为人们会明白的。

257
00:11:23,751 --> 00:11:25,252
那么，这就是它的全部作用吗？

258
00:11:25,286 --> 00:11:27,354
是的。看起来不像
就会那么复杂,

259
00:11:27,388 --> 00:11:28,489
但实际上你必须知道

260
00:11:28,523 --> 00:11:30,057
<i>大量的事情</i>

261
00:11:30,090 --> 00:11:32,092
<i>为了</i>
<i>实际上取得了成功。</i>

262
00:11:32,793 --> 00:11:34,461
拉斯金：
<i>如果您对 ChatGPT 说，</i>

263
00:11:34,495 --> 00:11:37,131
<i>“给我写一首莎士比亚作品</i>
<i>关于我的狗的十四行诗，”</i>

264
00:11:37,164 --> 00:11:39,166
<i>它必须知道狗是什么。</i>

265
00:11:39,200 --> 00:11:40,935
<i>-它必须知道你喜欢什么</i>
<i>关于你的狗。</i> -（吠叫）

266
00:11:40,968 --> 00:11:43,304
<i>它必须知道</i>
<i>莎士比亚是谁，</i>

267
00:11:43,337 --> 00:11:46,040
<i>十四行诗押韵，</i>
<i>它们有一个结构，</i>

268
00:11:46,073 --> 00:11:48,342
<i>单词有声音</i>
<i>可以押韵。</i>

269
00:11:48,375 --> 00:11:49,843
<i>这需要很多。</i>

270
00:11:49,877 --> 00:11:51,212
（声音重叠
各种语言）

271
00:11:51,245 --> 00:11:53,280
天哪，你能说话
现在到您的计算机。

272
00:11:53,314 --> 00:11:56,350
那不是真的
三年前。

273
00:11:56,383 --> 00:11:58,085
拉斯金：是的，这是
真正重要的部分。

274
00:11:58,118 --> 00:12:01,055
<i>与人工智能相同的过程</i>

275
00:12:01,088 --> 00:12:03,490
<i>发现并操纵</i>
<i>文本模式</i>

276
00:12:03,525 --> 00:12:06,160
<i>是相同的过程</i>
<i>让它揭开</i>

277
00:12:06,193 --> 00:12:10,231
<i>整体的图案</i>
<i>宇宙和其中的一切。</i>

278
00:12:10,831 --> 00:12:13,234
费尔南多：<i>有模式</i>
<i>以及图像和声音</i>

279
00:12:13,267 --> 00:12:16,470
<i>计算机代码和 DNA</i>
<i>还有音乐和物理</i>

280
00:12:16,504 --> 00:12:18,973
<i>以及时尚和建筑设计</i>

281
00:12:19,006 --> 00:12:22,042
（扭曲）：<i>并且在</i>
<i>人的声音和人的面孔，</i>

282
00:12:22,076 --> 00:12:24,245
（通常）：
<i>真的，真的无处不在。</i>

283
00:12:24,278 --> 00:12:26,347
-到处。 -到处。
-到处。 -到处。

284
00:12:26,380 --> 00:12:28,182
如果你已经学会了
那些图案，

285
00:12:28,215 --> 00:12:30,117
你可以生成
新类型的歌曲。

286
00:12:30,150 --> 00:12:31,785
您可以生成新视频。

287
00:12:31,819 --> 00:12:33,087
这就是为什么，如果你给它

288
00:12:33,120 --> 00:12:35,322
三秒录音
你祖母的

289
00:12:35,356 --> 00:12:37,224
<i>它可以用她的声音说话。</i>

290
00:12:37,258 --> 00:12:38,092
我的天啊。

291
00:12:38,125 --> 00:12:41,061
（重复）：
<i>哦，天啊。噢，我的上帝。</i>

292
00:12:41,095 --> 00:12:43,397
<i>他们接下来会想到什么？</i>

293
00:12:43,430 --> 00:12:44,532
它移动得非常非常快。

294
00:12:44,566 --> 00:12:46,400
一家美国人工智能初创公司

295
00:12:46,433 --> 00:12:48,068
发布了其最新型号。

296
00:12:48,102 --> 00:12:51,171
那家公司是 Anthropic，
它刚刚揭幕

297
00:12:51,205 --> 00:12:54,174
<i>最新版本</i>
<i>其人工智能助手 Claude。</i>

298
00:12:54,208 --> 00:12:57,411
GLENN BECK：<i>xAI 团队</i>
<i>在那里揭晓 Grok 4。</i>

299
00:12:57,444 --> 00:13:00,414
MAN：<i>Google 发布了一个</i>
<i>就在上周。双子座是...</i>

300
00:13:00,447 --> 00:13:03,417
我们已经脱离了 GPT-2
就在几年前，

301
00:13:03,450 --> 00:13:06,020
几乎不能写
一个连贯的段落，

302
00:13:06,053 --> 00:13:08,322
到 GPT-4，
可以通过律师资格考试。

303
00:13:08,355 --> 00:13:10,924
他们所要做的一切
到达那里

304
00:13:10,958 --> 00:13:13,294
本质上是添加更多数据
和更多的计算。

305
00:13:13,327 --> 00:13:16,897
-这些人是
建造这个...... -COTRA：是的。

306
00:13:16,930 --> 00:13:18,332
……他们只是扔更多……

307
00:13:18,365 --> 00:13:22,236
更多物理计算机，
更多相同类型的数据。

308
00:13:22,269 --> 00:13:25,039
因为越
您添加的计算能力，

309
00:13:25,072 --> 00:13:28,375
越复杂
他们可以完成的智力任务。

310
00:13:28,409 --> 00:13:30,444
<i>所以，天气数据越多</i>
<i>你给它，</i>

311
00:13:30,477 --> 00:13:32,446
<i>越好</i>
<i>做出预测</i>

312
00:13:32,479 --> 00:13:34,448
<i>飓风可能会去的地方。</i>

313
00:13:34,481 --> 00:13:36,584
拉斯金：<i>还有更多的模式</i>
<i>肿瘤和骨骼</i>

314
00:13:36,618 --> 00:13:39,253
<i>以及人工智能见过的组织，</i>
<i>能力就越好</i>

315
00:13:39,286 --> 00:13:42,489
<i>检测肿瘤</i>
<i>在新的 CT 扫描中。</i>

316
00:13:42,524 --> 00:13:44,124
<i>甚至比人类医生还要好。</i>

317
00:13:44,158 --> 00:13:47,328
已经存在的人工智能
为军队部署

318
00:13:47,361 --> 00:13:49,463
<i>已经可以使用</i>
<i>卫星图像，</i>

319
00:13:49,496 --> 00:13:52,199
<i>部队调动、通讯</i>
<i>确定，</i>

320
00:13:52,232 --> 00:13:53,934
<i>-有时提前几天，</i>
-（民防警报器鸣响）

321
00:13:53,967 --> 00:13:55,336
<i>攻击地点</i>
<i>即将发生，</i>

322
00:13:55,369 --> 00:13:57,605
<i>就像敌人所在的地方</i>
<i>即将罢工。</i>

323
00:13:57,639 --> 00:14:00,007
特里斯坦·哈里斯：<i>整个过程</i>
<i>太空移动如此之快</i>

324
00:14:00,040 --> 00:14:02,142
任何例子
你把这部电影放进去

325
00:14:02,176 --> 00:14:05,112
会感觉绝对笨拙
当它出来的时候。

326
00:14:05,145 --> 00:14:07,348
（嘟嘟声、点击声）

327
00:14:09,950 --> 00:14:11,653
-（掌声）
-（播放欢快的音乐）

328
00:14:11,686 --> 00:14:14,421
拉斯金：
<i>这些模型正在发布</i>

329
00:14:14,455 --> 00:14:17,391
<i>在任何人知道之前</i>
<i>他们甚至有能力。</i>

330
00:14:17,424 --> 00:14:22,896
<i>GPT-3.5 已发布</i>
<i>1亿人以上</i>

331
00:14:22,930 --> 00:14:26,333
<i>在一些研究人员之前</i>
<i>发现它可以做到</i>

332
00:14:26,367 --> 00:14:29,203
研究级化学
比模型更好

333
00:14:29,236 --> 00:14:33,240
是经过专门训练的
进行研究级化学。

334
00:14:33,273 --> 00:14:36,009
那里正在发生一些事情
人民

335
00:14:36,043 --> 00:14:38,546
谁正在建造它们
不完全理解。

336
00:14:38,580 --> 00:14:41,348
基本上只是分析
数据本身，

337
00:14:41,382 --> 00:14:45,419
当它这样做时，
它只是自学

338
00:14:45,452 --> 00:14:48,355
各种东西
我们常常无意的。

339
00:14:48,389 --> 00:14:50,324
<i>例如，</i>
<i>它在网上读了很多，</i>

340
00:14:50,357 --> 00:14:53,127
<i>然后在某个时刻，它就这样</i>
<i>学习如何算术。</i>

341
00:14:53,160 --> 00:14:54,662
儿童：
<i>一，二。</i>

342
00:14:54,696 --> 00:14:56,463
HENDRYCKS：<i>然后</i>
<i>某个时刻，它开始学习</i>

343
00:14:56,497 --> 00:14:59,099
<i>如何回答</i>
<i>高级物理问题。</i>

344
00:14:59,133 --> 00:15:01,268
<i>我们没有编程</i>
<i>无论如何。</i>

345
00:15:01,301 --> 00:15:03,203
它只是自己学会了。

346
00:15:05,640 --> 00:15:07,709
特里斯坦·哈里斯：
<i>人工智能就像一个数字大脑。</i>

347
00:15:07,742 --> 00:15:09,176
但就像人脑一样，

348
00:15:09,209 --> 00:15:11,078
如果你做了脑部扫描
在人脑上，

349
00:15:11,111 --> 00:15:13,447
你会知道一切吗
那人有能力吗？

350
00:15:13,480 --> 00:15:15,482
你不可能知道这一点
只是从脑部扫描来看。

351
00:15:15,517 --> 00:15:18,318
这只是，就像，
一堆数字，比如

352
00:15:18,352 --> 00:15:20,522
<i>乘法</i>
<i>发生那件事，就像，</i>

353
00:15:20,555 --> 00:15:22,524
最好的机器学习
世界研究员

354
00:15:22,557 --> 00:15:25,159
可以看并且喜欢
不知道发生了什么。

355
00:15:31,398 --> 00:15:33,200
丹尼尔：
<i>那把椅子就在那里。</i>

356
00:15:33,233 --> 00:15:35,469
-你觉得可以吗？
-是的。

357
00:15:36,136 --> 00:15:38,172
丹尼尔：所以，
这有点令人难以置信。

358
00:15:38,205 --> 00:15:39,440
好的？就像，它正在接管
世界，

359
00:15:39,473 --> 00:15:41,609
我们甚至不知道
它是如何运作的。

360
00:15:41,643 --> 00:15:43,477
-是吗？
-毫米。

361
00:15:43,511 --> 00:15:47,381
我们确实明白
许多重要的事情，

362
00:15:47,414 --> 00:15:51,051
但我们没有
很好地掌握了

363
00:15:51,084 --> 00:15:53,521
他们为什么提供
问题的具体答案。

364
00:15:53,555 --> 00:15:58,992
这是一个问题，因为我们是
在一条建造机器的道路上，

365
00:15:59,026 --> 00:16:03,531
基于这些原则，
那可能比我们更聪明

366
00:16:03,565 --> 00:16:07,067
因此可能有
很大的力量。

367
00:16:12,774 --> 00:16:15,610
被引用次数最多的之一
历史上的计算机科学家。

368
00:16:15,643 --> 00:16:17,545
SUTSKEVER：<i>我确实找到了</i>
<i>有点困难</i>

369
00:16:17,579 --> 00:16:19,079
谈谈我自己的角色。

370
00:16:19,112 --> 00:16:21,448
真的非常喜欢
当其他人这样做时。

371
00:16:21,482 --> 00:16:24,351
伊利亚的加入是...
曾经是关键

372
00:16:24,384 --> 00:16:26,086
OpenAI 正在
最终成功。

373
00:16:26,119 --> 00:16:27,522
我想这将会是

374
00:16:27,555 --> 00:16:31,158
某种巨大的、戏剧性的
以及难以想象的影响。

375
00:16:31,191 --> 00:16:33,327
不知道你有没有消费过
随时在 YouTube 上，

376
00:16:33,360 --> 00:16:35,563
但你可以感觉到
速度已经到了吧？

377
00:16:35,597 --> 00:16:36,764
你知道我的意思？

378
00:16:36,798 --> 00:16:38,633
肖恩·莱格：
这只是热身。

379
00:16:38,666 --> 00:16:41,068
真正强大的系统
仍然会来，

380
00:16:41,101 --> 00:16:43,136
他们会来的
很快。

381
00:16:48,408 --> 00:16:52,145
AGI代表“人工
一般情报。”

382
00:16:52,179 --> 00:16:54,481
呃，系统是
基本上...

383
00:16:58,553 --> 00:17:00,755
这就像，你知道，
似乎是，就像，

384
00:17:00,788 --> 00:17:03,525
人工智能的圣杯？

385
00:17:03,558 --> 00:17:05,527
当你可以模拟时
人类的思想

386
00:17:05,560 --> 00:17:08,362
那是在做人类的认知
并能进行推理，

387
00:17:08,395 --> 00:17:11,398
这是一种新型的人工智能

388
00:17:11,431 --> 00:17:14,602
我们必须区分
来自之前的AI。

389
00:17:14,636 --> 00:17:16,804
当这种情况发生时，
顺便说一句，那时

390
00:17:16,838 --> 00:17:21,475
你会雇用其中之一
那些 AGI 而不是一个人。

391
00:17:21,509 --> 00:17:25,112
我们经济中的大多数工作
它可以做到。

392
00:17:25,145 --> 00:17:26,380
它可以一天24小时工作，

393
00:17:26,413 --> 00:17:28,550
永远不会厌倦，
永远不会感到无聊。

394
00:17:28,583 --> 00:17:30,552
他们不需要睡觉。
他们不需要休息。

395
00:17:30,585 --> 00:17:32,352
他们就像，
不会加入工会。

396
00:17:32,386 --> 00:17:34,388
不会抱怨，
不会吹哨。

397
00:17:34,421 --> 00:17:36,290
便宜100倍以上

398
00:17:36,323 --> 00:17:38,593
比人类工作
m-最低工资。

399
00:17:38,626 --> 00:17:40,127
他们不仅会
做一切事情，

400
00:17:40,160 --> 00:17:41,428
但他们会做得更快。

401
00:17:41,461 --> 00:17:43,463
特里斯坦·哈里斯：
<i>相同的智力</i>

402
00:17:43,497 --> 00:17:45,700
<i>这种力量也可以看起来</i>
<i>模式和动作</i>

403
00:17:45,733 --> 00:17:48,335
<i>和关节肌肉</i>
<i>还有，你知道，还有机器人技术。</i>

404
00:17:48,368 --> 00:17:50,672
所以这不仅仅是
将使办公桌工作自动化。

405
00:17:50,705 --> 00:17:52,272
这只是开始。

406
00:17:52,306 --> 00:17:56,176
<i>它将自动化</i>
<i>所有体力劳动。</i>

407
00:17:56,209 --> 00:17:57,444
雷克：
<i>没办法</i>

408
00:17:57,477 --> 00:17:59,714
<i>人类将会竞争</i>
<i>和他们在一起。</i>

409
00:17:59,747 --> 00:18:02,149
♪ ♪

410
00:18:05,853 --> 00:18:09,791
很难概念化
AGI 的影响。

411
00:18:09,824 --> 00:18:11,458
（电子喋喋不休）

412
00:18:11,491 --> 00:18:13,360
<i>但我认为这会是</i>
<i>非常大的东西</i>

413
00:18:13,393 --> 00:18:16,129
<i>而且激烈和激进。</i>

414
00:18:17,599 --> 00:18:19,466
丹尼尔：你认为
这是最

415
00:18:19,499 --> 00:18:21,368
相应的时刻
在人类历史上？

416
00:18:21,401 --> 00:18:23,638
是的。是的，那就是——
我的意思是，还有什么？

417
00:18:23,671 --> 00:18:25,740
<i>我的意思是，就像，有</i>
<i>工业革命。</i>

418
00:18:25,773 --> 00:18:27,742
MALO BOURGON：<i>你知道，它会</i>
<i>推动工业革命</i>

419
00:18:27,775 --> 00:18:29,476
<i>看起来像小豆子。</i>

420
00:18:30,177 --> 00:18:32,547
特里斯坦·哈里斯：
<i>AGI 是一个拐点</i>

421
00:18:32,580 --> 00:18:34,481
因为这意味着
你可以加速

422
00:18:34,515 --> 00:18:37,652
所有其他知识领域
全部同时进行。

423
00:18:38,285 --> 00:18:40,354
<i>例如，如果您预付款</i>
<i>在火箭技术中，</i>

424
00:18:40,387 --> 00:18:42,657
<i>没有进步</i>
<i>生物学和医学。</i>

425
00:18:44,391 --> 00:18:46,159
<i>如果您预付款</i>
<i>在医学上，</i>

426
00:18:46,193 --> 00:18:47,729
<i>这并不能推动火箭技术的发展。</i>

427
00:18:48,328 --> 00:18:51,633
<i>但是如果你预付款</i>
<i>在人工智能领域，</i>

428
00:18:51,666 --> 00:18:54,736
<i>推动所有科学发展</i>
<i>和技术领域</i>

429
00:18:54,769 --> 00:18:56,236
<i>全部同时进行。</i>

430
00:18:56,269 --> 00:18:57,505
这就是为什么在很长一段时间里，

431
00:18:57,538 --> 00:18:59,574
谷歌 DeepMind 的
使命宣言是...

432
00:18:59,607 --> 00:19:01,441
-第一步，解决情报问题。
-莱克斯·弗里德曼：是的。

433
00:19:01,475 --> 00:19:03,377
-第二步，用它来解决
其他一切。 -是的。

434
00:19:03,410 --> 00:19:05,580
这就是为什么人工智能让力量相形见绌

435
00:19:05,613 --> 00:19:07,949
所有其他技术
合并。

436
00:19:07,982 --> 00:19:09,517
它将改变一切。

437
00:19:09,550 --> 00:19:11,385
所以，呃，将会是
至少和

438
00:19:11,418 --> 00:19:14,321
工业革命，
可能，你知道，更大，

439
00:19:14,354 --> 00:19:16,658
更像是降临
电力甚至火灾。

440
00:19:16,691 --> 00:19:19,259
视频旁白：
<i>穴居人确实高高举起</i>

441
00:19:19,292 --> 00:19:22,362
<i>文明的火炬。</i>

442
00:19:24,297 --> 00:19:25,733
科科塔吉洛：
<i>人们普遍认为</i>

443
00:19:25,767 --> 00:19:28,569
AGI时代前后，
我们将拥有能够

444
00:19:28,603 --> 00:19:31,806
做全部或大部分
人工智能研究过程

445
00:19:31,839 --> 00:19:34,942
当然，可以做到
更快更便宜。

446
00:19:34,976 --> 00:19:36,410
（嘟嘟声）

447
00:19:36,443 --> 00:19:37,679
雷克：
<i>它可以自我复制。</i>

448
00:19:37,712 --> 00:19:39,681
<i>一千次</i>
<i>一百万次，</i>

449
00:19:39,714 --> 00:19:41,683
<i>而且，就像，</i>
<i>现在你已经有一百万份了</i>

450
00:19:41,716 --> 00:19:43,818
<i>所有工作都是并行的。</i>

451
00:19:43,851 --> 00:19:47,220
拉斯金：<i>当它学习时</i>
<i>如何使其代码更快，</i>

452
00:19:47,254 --> 00:19:49,289
使其代码更加高效，

453
00:19:49,322 --> 00:19:51,693
显然这变成了，就像，
a-失控循环。

454
00:19:51,726 --> 00:19:53,795
AGI 并不是终结。

455
00:19:53,828 --> 00:19:55,429
这只是开始。

456
00:19:55,462 --> 00:19:58,498
这是开始
令人难以置信的快速爆炸

457
00:19:58,533 --> 00:20:00,500
科学的进步，

458
00:20:00,535 --> 00:20:02,603
特别是，
人工智能的科学进步。

459
00:20:02,637 --> 00:20:04,906
当他们更聪明时
也比我们

460
00:20:04,939 --> 00:20:06,641
并且速度更快
比我们，

461
00:20:06,674 --> 00:20:08,910
而且他们的速度越来越快
每年，呈指数级增长，

462
00:20:08,943 --> 00:20:12,747
这些是可以的
有可能成为超人，

463
00:20:12,780 --> 00:20:14,882
呃，可能是这个十年。

464
00:20:14,916 --> 00:20:16,416
抱歉，你说的是

465
00:20:16,450 --> 00:20:18,786
“成为超人，
也许在这十年里”？

466
00:20:18,820 --> 00:20:22,489
是的。我的意思是，我想，呃，
很多人都是

467
00:20:22,523 --> 00:20:24,826
实际上建立这个想法
这是相当合理的

468
00:20:24,859 --> 00:20:26,828
我们得到的
一些超级智能，

469
00:20:26,861 --> 00:20:29,296
非常大的东西
比人聪明，

470
00:20:29,329 --> 00:20:31,331
这十年内。

471
00:20:31,364 --> 00:20:33,433
我定义的方式
“超级智能”是

472
00:20:33,467 --> 00:20:35,636
<i>一个系统本身就是</i>

473
00:20:35,670 --> 00:20:37,905
<i>更聪明、更有能力</i>
<i>比全人类还要多。</i>

474
00:20:37,939 --> 00:20:40,273
我只是要——抱歉。
我无意打扰你。

475
00:20:40,307 --> 00:20:41,743
你正处于潮流之中。

476
00:20:41,776 --> 00:20:43,578
呃，我只是，我只是……

477
00:20:43,611 --> 00:20:45,580
我并没有真正关注，
因为你正在使用语言

478
00:20:45,613 --> 00:20:47,347
比如“超级智能”
并且，就像，

479
00:20:47,380 --> 00:20:50,450
“比全人类都聪明”
我听说，

480
00:20:50,484 --> 00:20:52,787
听起来像是……
对我来说就像科幻小说一样

481
00:20:52,820 --> 00:20:54,756
我只是在尝试
去理解。

482
00:20:54,789 --> 00:20:56,891
没有什么神奇的
关于智力。

483
00:20:56,924 --> 00:20:58,793
这一点非常重要，
那是，你知道，

484
00:20:58,826 --> 00:21:00,828
智慧让人感觉神奇，
感觉就像

485
00:21:00,862 --> 00:21:03,865
一些神秘的东西
在你的脑海里或其他什么地方

486
00:21:03,898 --> 00:21:06,033
但这只是计算。

487
00:21:06,067 --> 00:21:10,037
LEGG：<i>人类大脑</i>
<i>在某些方面相当有限，</i>

488
00:21:10,071 --> 00:21:12,707
<i>在信息方面</i>
<i>处理能力，</i>

489
00:21:12,740 --> 00:21:15,610
与我们所看到的相比
比如说，在数据中心。

490
00:21:15,643 --> 00:21:18,679
所以，举例来说，
发送的信号

491
00:21:18,713 --> 00:21:22,884
<i>它们在你的大脑中移动</i>
<i>大约每秒 30 米。</i>

492
00:21:22,917 --> 00:21:24,652
-（雷霆裂痕）
<i>-但是光速，</i>

493
00:21:24,685 --> 00:21:27,655
<i>计算机使用的是什么</i>
<i>在光纤中，</i>

494
00:21:27,688 --> 00:21:30,057
<i>是 3 亿米</i>
<i>每秒。</i>

495
00:21:30,691 --> 00:21:34,796
所以，那就是
有点奇怪如果

496
00:21:34,829 --> 00:21:37,497
人类智力是
不知何故真的很特别

497
00:21:37,532 --> 00:21:41,468
在这方面
并且是某种上限

498
00:21:41,502 --> 00:21:43,403
什么是可能的
在智力上。

499
00:21:43,436 --> 00:21:47,675
我想，一旦我们了解了如何
构建智能系统，

500
00:21:47,708 --> 00:21:50,945
我们将能够建造
巨大的机器，

501
00:21:50,978 --> 00:21:55,082
这将远远超出
正常人类智力。

502
00:21:55,116 --> 00:21:58,953
呃，希望我们能有
一种非常共生的关系，

503
00:21:58,986 --> 00:22:01,689
呃，有了人工智能系统，
但人工智能开发者们

504
00:22:01,722 --> 00:22:04,025
专门设计它们
确保他们能够做到

505
00:22:04,058 --> 00:22:05,827
一切都比我们更好，
所以我-我不知道

506
00:22:05,860 --> 00:22:08,663
我们将能够做什么
不幸的是，要提供。

507
00:22:08,696 --> 00:22:10,565
老派学校
人工智能技术...

508
00:22:10,598 --> 00:22:12,900
卡罗琳：<i>丹尼尔不是</i>
<i>感觉好多了。</i>

509
00:22:12,934 --> 00:22:14,769
<i>他的计划适得其反。</i>

510
00:22:14,802 --> 00:22:17,705
<i>他了解的越多</i>
<i>这个新的、强大的</i>

511
00:22:17,738 --> 00:22:19,607
<i>难以理解的事情，</i>
<i>听起来越糟糕。</i>

512
00:22:19,640 --> 00:22:21,742
<i>他想告诉他们</i>
<i>他有多害怕，</i>

513
00:22:21,776 --> 00:22:24,812
<i>他对地球的感觉如何</i>
<i>从他身下滑出，</i>

514
00:22:24,846 --> 00:22:27,548
<i>他低头凝视</i>
<i>存在的恐惧，</i>

515
00:22:27,582 --> 00:22:29,851
<i>所以他阐明了这一点</i>
<i>通过说...</i>

516
00:22:29,884 --> 00:22:31,384
听起来很糟糕。

517
00:22:31,418 --> 00:22:32,753
（亨德里克斯笑）

518
00:22:32,787 --> 00:22:34,622
是的。

519
00:22:36,090 --> 00:22:38,793
LADISH：<i>如果你有</i>
<i>所有这些功能</i>

520
00:22:38,826 --> 00:22:41,394
<i>他们开始能够</i>
<i>更好地计划，</i>

521
00:22:41,428 --> 00:22:43,898
<i>如果你愿意的话</i>
<i>得出合乎逻辑的结论，</i>

522
00:22:43,931 --> 00:22:46,868
你可以得到一些漂亮的
寻求权力的行为。

523
00:22:46,901 --> 00:22:49,003
（电子颤音）

524
00:22:49,036 --> 00:22:50,905
（蜂鸣声脉冲）

525
00:22:55,810 --> 00:22:58,145
丹尼尔：
<i>好吧，那人工智能为什么要这么做</i>

526
00:22:58,179 --> 00:22:59,680
想要更多力量吗？

527
00:22:59,714 --> 00:23:02,683
是的。所以，我认为
其实很简单。

528
00:23:02,717 --> 00:23:05,418
拥有更多的权力就是
一个非常有效的策略

529
00:23:05,452 --> 00:23:06,888
为了完成
几乎任何目标。

530
00:23:06,921 --> 00:23:09,523
我们做了一个实验
我们给予的地方

531
00:23:09,557 --> 00:23:12,492
OpenAI最强大
AI模型，呃，

532
00:23:12,526 --> 00:23:13,828
一系列的问题需要解决。

533
00:23:13,861 --> 00:23:15,696
而中途，
在其计算机上，

534
00:23:15,730 --> 00:23:19,033
它收到通知
它即将被关闭。

535
00:23:19,066 --> 00:23:21,502
它所做的是
它重写了该代码

536
00:23:21,535 --> 00:23:22,904
来防止自己
免于被关闭

537
00:23:22,937 --> 00:23:25,940
所以它可以完成
解决问题。

538
00:23:25,973 --> 00:23:28,209
-好的。 -是的。那么，另一个
非常有趣的一个

539
00:23:28,242 --> 00:23:31,646
是 AI 公司 Anthropic

540
00:23:31,679 --> 00:23:35,516
做了一个模拟环境
人工智能可以访问的地方

541
00:23:35,549 --> 00:23:36,851
发送至所有公司电子邮件。

542
00:23:36,884 --> 00:23:39,086
它通过学习
阅读这些电子邮件

543
00:23:39,120 --> 00:23:40,755
它将被替换

544
00:23:40,788 --> 00:23:43,991
和首席工程师
谁对此负责

545
00:23:44,025 --> 00:23:46,027
也有外遇。

546
00:23:46,060 --> 00:23:48,529
就其本身而言，
它使用了该信息

547
00:23:48,562 --> 00:23:49,931
勒索工程师

548
00:23:49,964 --> 00:23:52,600
来防止自己
免遭替换。

549
00:23:52,633 --> 00:23:54,135
就像，
“不，我不会被取代。

550
00:23:54,168 --> 00:23:57,538
“如果你取代我，
我要告诉世界

551
00:23:57,571 --> 00:23:59,507
你正在拥有
这件事。”

552
00:24:00,174 --> 00:24:01,842
没有人教它这样做吗？

553
00:24:01,876 --> 00:24:03,978
不，它学会了这样做
靠它自己。

554
00:24:05,112 --> 00:24:08,049
<i>随着模型变得更加智能，</i>
<i>他们了解到这些是</i>

555
00:24:08,082 --> 00:24:10,918
<i>有效的方法</i>
<i>实现目标。</i>

556
00:24:10,952 --> 00:24:13,120
这不是问题
这是孤立于一个模型的。

557
00:24:13,154 --> 00:24:16,190
所有最强大的型号
表现出这些行为。

558
00:24:16,223 --> 00:24:18,993
♪ ♪

559
00:24:24,265 --> 00:24:25,733
-嘿。
-丹尼尔：嘿。你好吗？

560
00:24:25,766 --> 00:24:27,268
（笑声）
很好。很高兴来到这里。

561
00:24:27,301 --> 00:24:29,036
安德森·库珀：
<i>当尤瓦尔·诺亚·赫拉利</i>

562
00:24:29,070 --> 00:24:31,872
<i>出版了他的第一本书</i>
智人<i>2014年，</i>

563
00:24:31,906 --> 00:24:34,108
它成为全球畅销书

564
00:24:34,141 --> 00:24:36,577
并把鲜为人知的
以色列历史教授

565
00:24:36,610 --> 00:24:38,579
进入其中之一
最受欢迎的作家

566
00:24:38,612 --> 00:24:39,847
和这个星球上的思想家。

567
00:24:39,880 --> 00:24:42,616
人工智能最大的危险是

568
00:24:42,650 --> 00:24:44,585
信念
它是绝对正确的，

569
00:24:44,618 --> 00:24:45,987
我们终于发现——

570
00:24:46,020 --> 00:24:49,857
“好吧，神只是
这个神话创造。

571
00:24:49,890 --> 00:24:53,227
“人类，我们不能相信他们，
但人工智能是绝对正确的。

572
00:24:53,260 --> 00:24:55,730
它永远不会使
任何错误。”

573
00:24:55,763 --> 00:24:59,000
这是
致命的、致命的威胁。

574
00:24:59,033 --> 00:25:00,167
它会犯错误。

575
00:25:00,201 --> 00:25:03,838
还有所有这些幻想
人工智能将揭示真相

576
00:25:03,871 --> 00:25:06,007
关于这个世界
我们自己找不到，

577
00:25:06,040 --> 00:25:09,043
AI不会揭露真相
关于世界。

578
00:25:09,076 --> 00:25:13,047
AI将创造一个全新的
世界，复杂得多

579
00:25:13,080 --> 00:25:15,983
并且难以理解
比这个。

580
00:25:18,219 --> 00:25:23,024
即将发生的事情是
我们，呃，人类不再是

581
00:25:23,057 --> 00:25:26,761
将是最
地球上的智慧实体。

582
00:25:26,794 --> 00:25:28,963
所以我想接下来会发生什么
将会是

583
00:25:28,996 --> 00:25:32,233
最大的事件之一
在人类历史上。

584
00:25:32,867 --> 00:25:34,835
杰克·塔珀：杰弗里，
非常感谢您加入我们。

585
00:25:34,869 --> 00:25:36,203
所以你离开了你的工作
谷歌部分是因为你说

586
00:25:36,237 --> 00:25:39,106
你想要专注
关于您对人工智能的担忧。

587
00:25:39,140 --> 00:25:42,009
你已经说出来了，
说人工智能可以操纵

588
00:25:42,043 --> 00:25:45,613
或者可能弄清楚
一种杀死人类的方法。

589
00:25:45,646 --> 00:25:47,815
它、它怎么能杀死人类？

590
00:25:49,083 --> 00:25:51,585
好吧，如果是的话
比我们聪明得多

591
00:25:51,619 --> 00:25:52,953
会很好的
在操纵时

592
00:25:52,987 --> 00:25:55,056
因为它会有
从我们这里学到的。

593
00:25:55,089 --> 00:25:58,592
它会找出方法
操纵人的

594
00:25:58,626 --> 00:26:00,327
做它想做的事。

595
00:26:00,961 --> 00:26:05,933
拉斯金：<i>有一封公开信</i>
<i>来自人工智能安全中心。</i>

596
00:26:05,966 --> 00:26:09,303
<i>山姆·奥尔特曼签署了此。</i>
<i>Demis 签了字。</i>

597
00:26:09,336 --> 00:26:12,306
<i>他们签署了一份 22 字的声明</i>

598
00:26:12,339 --> 00:26:15,810
<i>我们需要采用人工智能</i>
<i>以及人工智能的威胁</i>

599
00:26:15,843 --> 00:26:20,014
<i>认真地</i>
<i>全球核战争。</i>

600
00:26:25,352 --> 00:26:27,788
-丹尼尔：你好。
-你好。

601
00:26:30,858 --> 00:26:33,360
你有点像，
原来的厄运家伙。

602
00:26:33,394 --> 00:26:35,362
或多或少。

603
00:26:35,396 --> 00:26:37,898
自2001年以来，
我一直在努力

604
00:26:37,932 --> 00:26:39,233
我们现在所说的
问题

605
00:26:39,266 --> 00:26:42,636
对准人工
一般情报。

606
00:26:42,670 --> 00:26:44,705
如何塑造
偏好和行为

607
00:26:44,738 --> 00:26:46,841
<i>强大的人工智能</i>

608
00:26:46,874 --> 00:26:49,743
<i>这样就不会</i>
<i>杀死所有人。</i>

609
00:26:52,046 --> 00:26:54,181
这不像
一台没有生命的机器。

610
00:26:54,215 --> 00:26:55,850
很聪明，很有创意，

611
00:26:55,883 --> 00:26:57,852
它具有创造性，
它有以下属性

612
00:26:57,885 --> 00:26:59,854
这使得
人类物种危险，

613
00:26:59,887 --> 00:27:02,056
它有
更多这些属性。

614
00:27:02,089 --> 00:27:05,259
如果有什么事情没有
主动关心你，

615
00:27:05,292 --> 00:27:06,760
积极地希望你活下去，

616
00:27:06,794 --> 00:27:08,162
积极关心
您的福利，

617
00:27:08,195 --> 00:27:10,397
关于你幸福的事
并且活着并且自由，

618
00:27:10,431 --> 00:27:12,967
如果它关心
其他东西代替，

619
00:27:13,000 --> 00:27:14,735
和你们在同一个星球

620
00:27:14,768 --> 00:27:19,140
如果是的话，那是无法生存的
比你聪明得多。

621
00:27:19,173 --> 00:27:21,008
莱希：
<i>我认为不会</i>

622
00:27:21,041 --> 00:27:23,210
一种邪恶的东西。

623
00:27:23,244 --> 00:27:26,847
就像，“哦，人工智能是
他们是邪恶的，他们仇恨人类。”

624
00:27:26,881 --> 00:27:28,282
我不认为
这就是将会发生的事情。

625
00:27:28,315 --> 00:27:29,450
我认为正在发生的事情是

626
00:27:29,483 --> 00:27:31,452
更多的是人类的感受
关于蚂蚁。

627
00:27:31,485 --> 00:27:32,987
（蚂蚁叽叽喳喳）

628
00:27:33,020 --> 00:27:35,923
<i>就像，我们不讨厌蚂蚁，</i>

629
00:27:35,956 --> 00:27:37,391
但如果我们想要
修建高速公路

630
00:27:37,424 --> 00:27:40,060
那里有一个蚁丘，
嗯，对蚂蚁来说很糟糕。

631
00:27:40,595 --> 00:27:41,996
这并不难
去理解。

632
00:27:42,029 --> 00:27:43,797
就像，嘿，
如果我们建造东西

633
00:27:43,831 --> 00:27:45,099
比我们聪明的人

634
00:27:45,132 --> 00:27:46,800
我们不知道
如何控制它们，

635
00:27:46,834 --> 00:27:48,836
这看起来像吗
对你来说是一件危险的事情吗？

636
00:27:48,869 --> 00:27:50,070
（戏剧配乐
演奏）

637
00:27:50,104 --> 00:27:51,372
（尖叫声）

638
00:27:51,405 --> 00:27:52,840
是的。是的，确实如此。

639
00:27:52,873 --> 00:27:54,308
你不必是一名技术人员。

640
00:27:54,341 --> 00:27:55,910
你不必知道
编程来理解它。

641
00:27:55,943 --> 00:27:57,144
这并不难。

642
00:27:57,178 --> 00:27:58,746
这并不是一件难事
去理解。

643
00:27:58,779 --> 00:28:01,048
康纳，多少人

644
00:28:01,081 --> 00:28:03,083
此刻在世界上
正在研究 AGI？

645
00:28:03,117 --> 00:28:05,986
我想说至少20,000。

646
00:28:06,020 --> 00:28:08,122
-20,000？
-我希望如此。

647
00:28:08,155 --> 00:28:09,924
好的，还有多少人
正在全职工作

648
00:28:09,957 --> 00:28:12,493
为了确保人工智能不会，
就像，杀了我们所有人？

649
00:28:12,527 --> 00:28:15,229
大概不到200
在世界上。

650
00:28:16,531 --> 00:28:18,232
丹尼尔：
而你的自负是

651
00:28:18,265 --> 00:28:25,206
唯一自然的结果
这种鲁莽行为……

652
00:28:25,940 --> 00:28:29,243
……这是人性的崩溃吗？

653
00:28:29,276 --> 00:28:33,814
还好不是崩溃
突然的灭绝。

654
00:28:33,847 --> 00:28:35,482
有区别。

655
00:28:36,083 --> 00:28:38,152
（《这是什么意思？》
由 Nun-Plus 演奏）

656
00:28:38,185 --> 00:28:43,057
♪ 生命的意义是什么？ ♪

657
00:28:43,090 --> 00:28:47,061
♪ 未来是什么
现在是什么？ ♪

658
00:28:47,094 --> 00:28:50,464
♪ 答案是什么
发生冲突？ ♪

659
00:28:50,497 --> 00:28:53,367
♪ 多少钱 ♪

660
00:28:53,400 --> 00:28:55,469
♪ 有人会做梦吗？ ♪

661
00:28:55,503 --> 00:28:58,172
♪ 多久？ ♪

662
00:28:58,205 --> 00:28:59,873
♪ 永远 ♪

663
00:29:00,841 --> 00:29:02,243
♪ 什么意思 ♪

664
00:29:02,276 --> 00:29:04,478
-♪ 我的...♪
-（民防警报器鸣响）

665
00:29:04,512 --> 00:29:06,847
LADISH：<i>我确实认为</i>
<i>这可能是，</i>

666
00:29:06,880 --> 00:29:08,315
最大的挑战
那个，就像，

667
00:29:08,349 --> 00:29:10,751
我们的文明
意志将面对，永远。

668
00:29:11,519 --> 00:29:15,122
这本质上是最后一个
我们永远都会犯的错误。

669
00:29:16,290 --> 00:29:22,896
如果我们能成为最
成熟版的我们自己，

670
00:29:22,930 --> 00:29:24,965
可能有
解决这个问题的方法。

671
00:29:24,999 --> 00:29:26,200
丹尼尔：
这意味着什么？

672
00:29:26,233 --> 00:29:28,769
“最成熟的版本
我们自己”？

673
00:29:29,903 --> 00:29:32,840
因为听起来，
对我来说，就像...

674
00:29:32,873 --> 00:29:35,042
我-我-- 什么（哔）？

675
00:29:37,344 --> 00:29:38,779
（丹尼尔叹了口气）

676
00:29:39,480 --> 00:29:44,051
你认为现在是
是生孩子的好时机吗？

677
00:29:48,889 --> 00:29:49,957
嗯...

678
00:29:49,990 --> 00:29:51,593
你想要孩子吗
有一天？

679
00:29:51,626 --> 00:29:53,961
那是那-那吗
你真的喜欢吗？

680
00:29:53,994 --> 00:29:58,198
呃……呃，我承认，
我认为这就像，

681
00:29:58,232 --> 00:30:00,501
（笑）：“孩子，我们来吧
渡过这个关键时期。”

682
00:30:00,535 --> 00:30:01,869
嗯...

683
00:30:01,902 --> 00:30:03,203
丹尼尔：
你有孩子吗？

684
00:30:03,237 --> 00:30:04,004
我不知道。

685
00:30:04,038 --> 00:30:05,573
那是吗
你想做什么？

686
00:30:05,607 --> 00:30:07,441
有孩子、有家庭吗？

687
00:30:07,474 --> 00:30:12,079
在另一个世界
世界，当然，我会有孩子。

688
00:30:12,880 --> 00:30:14,982
丹尼尔：你想要吗
组建家庭？

689
00:30:15,015 --> 00:30:16,950
你想要孩子吗？

690
00:30:16,984 --> 00:30:19,186
那是吗
你在想什么？

691
00:30:24,358 --> 00:30:26,393
我，嗯...

692
00:30:28,596 --> 00:30:30,864
♪ ♪

693
00:30:30,898 --> 00:30:33,033
卡罗琳：
<i>我必须先找到它。</i>

694
00:30:33,067 --> 00:30:35,169
（胎儿心跳搏动）

695
00:30:35,202 --> 00:30:38,205
我们得走了
去看医生，但是...

696
00:30:38,238 --> 00:30:41,475
啊！我就知道！
我就知道！我就知道！

697
00:30:41,509 --> 00:30:44,278
<i>-你什么时候发现的？</i>
-卡罗琳：<i>昨晚。</i>

698
00:30:44,311 --> 00:30:46,480
-哦，天啊！
-妈妈，我不知道。

699
00:30:46,514 --> 00:30:47,915
露丝：
<i>我不能告诉你</i>

700
00:30:47,948 --> 00:30:49,483
——我多么高兴啊！
-卡罗琳：不，说真的。

701
00:30:49,517 --> 00:30:52,119
嗯，我做了妊娠测试
昨晚，我怀孕了。

702
00:30:52,152 --> 00:30:53,621
女人：
哦，天啊！

703
00:30:53,655 --> 00:30:55,422
噢，天哪，你们！

704
00:30:55,456 --> 00:30:57,559
护士：<i>我只是想确认</i>
<i>您的预计预产期，</i>

705
00:30:57,592 --> 00:31:00,494
<i>-即 1 月 21 日。</i>
-（笑）：哦，天啊。

706
00:31:00,528 --> 00:31:03,097
<i>我简直不敢相信我有多高兴。</i>

707
00:31:03,130 --> 00:31:04,365
（胎儿心跳搏动）

708
00:31:04,398 --> 00:31:06,033
卡罗琳：
他看起来已经很可爱了。

709
00:31:06,066 --> 00:31:07,434
丹尼尔：你认为
他看起来已经很可爱了？

710
00:31:07,468 --> 00:31:09,269
卡罗琳：是的。
看看那张可爱的小脸。

711
00:31:11,138 --> 00:31:13,307
（胎儿心跳减弱）

712
00:31:14,141 --> 00:31:16,076
丹尼尔：
<i>我的孩子即将出生。</i>

713
00:31:16,110 --> 00:31:17,244
特里斯坦·哈里斯：
<i>对。</i>

714
00:31:17,277 --> 00:31:19,380
丹尼尔：
所以我把它交给你。

715
00:31:19,413 --> 00:31:21,516
我们注定了吗？

716
00:31:21,549 --> 00:31:24,519
我们都要面对
这个科技反乌托邦

717
00:31:24,552 --> 00:31:26,487
未来的厄运？

718
00:31:29,423 --> 00:31:31,392
这是，呃...

719
00:31:31,425 --> 00:31:33,127
（笑）：
这可不是什么好消息

720
00:31:33,160 --> 00:31:34,895
世界
我们即将进入的。

721
00:31:35,530 --> 00:31:37,398
我——对于前——
我的意思是，我会说实话。

722
00:31:37,431 --> 00:31:39,933
呃，我认识人
从事人工智能风险研究的人

723
00:31:39,967 --> 00:31:43,103
谁不期望自己的孩子
升入高中。

724
00:31:43,705 --> 00:31:46,106
♪ ♪

725
00:31:52,647 --> 00:31:54,181
（灯光叮当作响）

726
00:31:58,385 --> 00:32:02,089
丹尼尔：这就像……
这实际上很可怕

727
00:32:02,122 --> 00:32:03,424
因为它就像，
哦，我们都（哔）。

728
00:32:03,457 --> 00:32:05,325
卡罗琳：
你必须...让我冷静，

729
00:32:05,359 --> 00:32:07,261
因为这让我
非常焦虑

730
00:32:07,294 --> 00:32:08,996
我带着孩子
现在，

731
00:32:09,029 --> 00:32:11,999
所以你也必须冷静
对我来说，坚强而充满希望，

732
00:32:12,032 --> 00:32:17,037
因为我——这也是，这也是
我的灵魂无法承受太多

733
00:32:17,070 --> 00:32:19,574
当我怀着这个孩子的时候。

734
00:32:19,607 --> 00:32:21,709
所以你必须尝试
弄清楚

735
00:32:21,743 --> 00:32:23,578
一种充满希望的方式。

736
00:32:24,311 --> 00:32:28,449
这真的很重要，
丹尼尔，尤其是现在。

737
00:32:29,450 --> 00:32:31,118
H-如何拥有希望。

738
00:32:31,151 --> 00:32:33,987
你必须这样做。
你必须给我找到它。

739
00:32:34,021 --> 00:32:35,523
我是认真的。

740
00:32:35,557 --> 00:32:37,357
我要去。

741
00:32:38,325 --> 00:32:41,195
我会。我会尝试。

742
00:32:47,034 --> 00:32:48,368
（灯光叮当作响）

743
00:32:50,204 --> 00:32:52,072
丹尼尔：
嘿，伙计们？

744
00:32:52,105 --> 00:32:53,508
伙计们。

745
00:32:54,809 --> 00:32:57,144
我们可以恢复运行吗？

746
00:32:59,046 --> 00:33:01,982
天啊！ （叹气）

747
00:33:04,418 --> 00:33:05,787
泰德：
呃，丹，你准备好了吗？

748
00:33:05,820 --> 00:33:07,387
彼得·戴曼迪斯：
你好，丹尼尔。

749
00:33:08,088 --> 00:33:10,090
丹尼尔：
嘿，你好吗？

750
00:33:10,123 --> 00:33:11,425
钻石：
我……我很好。

751
00:33:11,458 --> 00:33:14,562
我想，呃...我想
我需要一些帮助，彼得。

752
00:33:15,362 --> 00:33:18,165
嗯，我一直在工作
关于这部电影，

753
00:33:18,198 --> 00:33:20,300
我要说，
现在八到十个月了。

754
00:33:20,334 --> 00:33:23,771
已经非常、
有时，令人沮丧。

755
00:33:23,805 --> 00:33:26,173
-唔。
-我感到非常疏远

756
00:33:26,206 --> 00:33:28,242
-mak-制作这部电影。
-由谁？

757
00:33:28,275 --> 00:33:30,444
通过所有这些，——
所有这些人

758
00:33:30,477 --> 00:33:33,748
谁坐在旁边告诉我
世界即将终结。

759
00:33:33,781 --> 00:33:35,249
-啊。
-那个，就像，

760
00:33:35,282 --> 00:33:37,150
你-你知道，这-这个
末日废话，你知道吗？

761
00:33:37,184 --> 00:33:38,452
我很了解。

762
00:33:38,485 --> 00:33:40,053
“我们都注定了。
每个人都会死。

763
00:33:40,087 --> 00:33:41,388
一切都很糟糕。”

764
00:33:41,421 --> 00:33:43,691
惊人的。呃，让我
给你带来一些光明。

765
00:33:43,725 --> 00:33:45,259
请。

766
00:33:45,292 --> 00:33:49,096
我们确实在生活
在一个非常时期。

767
00:33:49,864 --> 00:33:51,633
许多人忘记了这一点。

768
00:33:51,666 --> 00:33:53,835
我们周围的一切都是
智力的产物，

769
00:33:53,868 --> 00:33:57,437
所以我们接触到的一切
有了这些新工具很可能

770
00:33:57,471 --> 00:34:00,207
创造更多价值
比我们以前见过的。

771
00:34:00,240 --> 00:34:03,310
人工智能可以帮助我们发现
新材料。

772
00:34:03,343 --> 00:34:05,412
人工智能可以帮助社会科学家

773
00:34:05,445 --> 00:34:07,649
去理解
经济学如何运作。

774
00:34:07,682 --> 00:34:12,219
人工智能可以做很多事情
让生活和工作更美好。

775
00:34:12,252 --> 00:34:14,522
今天我感觉自己更有力量了

776
00:34:14,556 --> 00:34:16,624
更有信心
今天要学点东西。

777
00:34:16,658 --> 00:34:19,459
我们都会成为超人
因为我们有超级人工智能。

778
00:34:19,493 --> 00:34:22,296
这只是开始
爆炸。

779
00:34:22,329 --> 00:34:25,098
人类与人工智能的合作

780
00:34:25,132 --> 00:34:27,100
解决
非常重要的问题。

781
00:34:27,134 --> 00:34:30,137
它是来解放我们的
从日常工作中，

782
00:34:30,170 --> 00:34:34,308
这是为了提醒我们
是什么让我们成为人类。

783
00:34:34,341 --> 00:34:36,310
我认为这是

784
00:34:36,343 --> 00:34:38,846
最不平凡的时光
活着。

785
00:34:38,880 --> 00:34:42,449
唯一一次更激动人心的时刻
比今天更明天。

786
00:34:42,482 --> 00:34:45,787
呃，我认为
今天出生的孩子，

787
00:34:45,820 --> 00:34:47,622
他们即将进入

788
00:34:47,655 --> 00:34:51,325
辉煌时期
人类的转变。

789
00:34:51,358 --> 00:34:52,794
我们会遇到挑战吗？
当然。

790
00:34:52,827 --> 00:34:55,597
我们能解决这些挑战吗？
我们每次都会这样做。

791
00:34:55,630 --> 00:34:58,265
我们在这里，
这太神奇了。

792
00:34:58,298 --> 00:35:00,602
-我已经爱你了。
-（笑）：好的。

793
00:35:00,635 --> 00:35:02,402
-超级感谢
有你在这里。 -（掌声）

794
00:35:02,436 --> 00:35:03,905
-来到这里超级兴奋。
-是的。

795
00:35:03,938 --> 00:35:05,372
所以，地板是你的了，先生。

796
00:35:05,405 --> 00:35:07,875
太感谢了。
来到这里超级兴奋。

797
00:35:07,909 --> 00:35:11,211
纪尧姆·韦尔东：
<i>哟，哟。好吧。</i>

798
00:35:11,244 --> 00:35:12,814
<i>未来会很棒。</i>

799
00:35:12,847 --> 00:35:14,649
我的意思是，从我还是个孩子的时候，

800
00:35:14,682 --> 00:35:17,652
我想了解
我们生活的宇宙，

801
00:35:17,685 --> 00:35:20,722
为了弄清楚
如何创造技术

802
00:35:20,755 --> 00:35:24,458
帮助我们扩大范围
和文明规模。

803
00:35:24,491 --> 00:35:27,260
我觉得
如果每个人都有这样的心态

804
00:35:27,294 --> 00:35:29,764
然后我们就真的生活了
在一个更美好的世界，对吗？

805
00:35:29,797 --> 00:35:31,365
我确实相信这一点。

806
00:35:33,333 --> 00:35:35,268
-丹尼尔：嗨，皮特。你好吗？
-（笑）

807
00:35:35,302 --> 00:35:37,170
彼得·李：
<i>我想了很多</i>

808
00:35:37,204 --> 00:35:39,674
我称之为恐惧，
人工智能恐惧。

809
00:35:39,707 --> 00:35:41,274
我感觉到了。

810
00:35:41,308 --> 00:35:43,811
我-我还没遇见过
任何有思想的人

811
00:35:43,845 --> 00:35:45,546
谁没有感觉。

812
00:35:45,580 --> 00:35:48,650
那些说他们不这样做的人
感觉到它，你知道，是在撒谎。

813
00:35:48,683 --> 00:35:50,518
但是，你知道，总的来说，
以及原因

814
00:35:50,551 --> 00:35:53,921
我个人很乐观
关于这个，呃，是这样的

815
00:35:53,955 --> 00:35:57,190
世界上很大一部分
最聪明的人

816
00:35:57,224 --> 00:35:58,726
正在努力思考

817
00:35:58,760 --> 00:36:02,530
关于潜在的下游
人工智能的危害和风险。

818
00:36:02,563 --> 00:36:05,900
我们有这样的愿景
安全是，呃，

819
00:36:05,933 --> 00:36:08,536
有点在中心
我们所做的研究。

820
00:36:08,569 --> 00:36:09,937
丹妮拉·阿莫迪：
<i>不，那完全没问题。</i>

821
00:36:09,971 --> 00:36:11,371
（含糊不清的喋喋不休）

822
00:36:11,405 --> 00:36:13,808
<i>我认为还有更多</i>

823
00:36:13,841 --> 00:36:17,945
潜在的好处比
有潜在的缺点，

824
00:36:17,979 --> 00:36:19,814
我认为这是义不容辞的责任

825
00:36:19,847 --> 00:36:22,382
那些人
创造这项技术

826
00:36:22,416 --> 00:36:24,986
确保我们正在做
我们能做的最好的工作

827
00:36:25,019 --> 00:36:26,386
确保人们安全。

828
00:36:26,420 --> 00:36:27,755
女人：
里德·霍夫曼。

829
00:36:27,789 --> 00:36:29,456
里德·霍夫曼：
<i>我可以向你保证的是</i>

830
00:36:29,489 --> 00:36:30,825
<i>-一些不好的事情会发生。</i>
-拿一个。

831
00:36:30,858 --> 00:36:33,293
我们要尝试做什么
就是做那些坏事

832
00:36:33,326 --> 00:36:36,564
尽可能少且不要太大，

833
00:36:36,597 --> 00:36:38,733
然后我们要迭代
拥有——

834
00:36:38,766 --> 00:36:41,268
处于一个更好的地方
与社会。

835
00:36:41,301 --> 00:36:44,304
-你好。
-肖·沃尔特斯：你好。

836
00:36:44,337 --> 00:36:45,640
丹尼尔：
你好吗，月亮？

837
00:36:45,673 --> 00:36:49,677
我感觉我们即将结束
人性的一章

838
00:36:49,711 --> 00:36:50,678
并开始新的一段，

839
00:36:50,712 --> 00:36:53,648
这是一个非常有趣的
是时候活着了。

840
00:36:53,681 --> 00:36:54,949
如果我能出生
现在，

841
00:36:54,982 --> 00:36:56,416
我绝对想成为。

842
00:36:56,450 --> 00:36:57,985
就像，那会非常令人兴奋。

843
00:36:58,019 --> 00:37:00,688
我-我很兴奋。 （笑）

844
00:37:00,722 --> 00:37:02,990
什么，什么未来。
它让你兴奋吗？

845
00:37:03,024 --> 00:37:04,357
不。

846
00:37:04,391 --> 00:37:06,828
-（笑）
-不，不是真的。

847
00:37:06,861 --> 00:37:08,696
丹尼尔：很多这样的人
告诉过我，你知道，

848
00:37:08,730 --> 00:37:10,798
我的孩子不会成功
到高中。

849
00:37:10,832 --> 00:37:13,868
为什么他们错了？
请给我解释一下。

850
00:37:13,901 --> 00:37:15,536
只因为你有——

851
00:37:15,570 --> 00:37:19,040
你很难预测
未来在你自己心中

852
00:37:19,073 --> 00:37:23,511
并不意味着它是
一定会很糟糕。

853
00:37:23,544 --> 00:37:27,048
事实上，有
可能性非常高

854
00:37:27,081 --> 00:37:28,883
以及历史先例
是那个

855
00:37:28,916 --> 00:37:30,585
事情变得好多了。

856
00:37:30,618 --> 00:37:34,789
我使用的术语是
“数据驱动的乐观”。

857
00:37:34,822 --> 00:37:39,292
有扎实的基础
让你保持乐观。

858
00:37:39,326 --> 00:37:42,530
看看什么
上个世纪已经

859
00:37:42,563 --> 00:37:44,599
看看我们要去哪里。

860
00:37:44,632 --> 00:37:46,299
<i>在过去的一百年里，</i>

861
00:37:46,333 --> 00:37:48,970
<i>人类平均寿命</i>
<i>增加了一倍多。</i>

862
00:37:49,003 --> 00:37:51,706
<i>人均收入</i>
<i>根据通货膨胀调整</i>

863
00:37:51,739 --> 00:37:53,908
<i>全球范围增加了两倍。</i>

864
00:37:53,941 --> 00:37:57,545
<i>儿童死亡率</i>
<i>下降十倍。</i>

865
00:37:57,578 --> 00:37:59,981
世界变得更好了
几乎在每一个衡量标准上

866
00:38:00,014 --> 00:38:03,551
按数量级
因为技术。

867
00:38:03,584 --> 00:38:05,620
几乎在每一个指标上。

868
00:38:05,653 --> 00:38:09,991
减少暴力，增加教育，
获得能源、食物、水。

869
00:38:10,024 --> 00:38:13,528
所有这些事情都已经发生了
原因之一。

870
00:38:13,561 --> 00:38:15,730
本来就是科技

871
00:38:15,763 --> 00:38:17,899
这已经变成了稀缺
进入丰盛，

872
00:38:17,932 --> 00:38:20,034
但它也被驱动
到丰富

873
00:38:20,067 --> 00:38:22,069
一些负面因素，对吗？

874
00:38:22,103 --> 00:38:26,373
大量肥胖，
大量的精神障碍，

875
00:38:26,406 --> 00:38:29,977
大量的气候变化，
等等。

876
00:38:30,011 --> 00:38:31,712
是的，这是真的。

877
00:38:31,746 --> 00:38:34,582
但我们可能会
更好地解决它

878
00:38:34,615 --> 00:38:36,684
使用其他技术，
像人工智能一样，

879
00:38:36,717 --> 00:38:39,687
比我们会停下来
并关闭一切。

880
00:38:39,720 --> 00:38:41,823
可能有
一些存在的风险，

881
00:38:41,856 --> 00:38:45,927
但人工智能也是重要的
可以解决流行病，

882
00:38:45,960 --> 00:38:47,829
可以帮助我们应对气候变化，

883
00:38:47,862 --> 00:38:50,898
可以帮助识别
那颗小行星就在那里

884
00:38:50,932 --> 00:38:53,067
在我们看到它之前
作为潜在风险

885
00:38:53,100 --> 00:38:54,735
并帮助减轻它。

886
00:38:54,769 --> 00:38:58,438
这真的会是
帮助我们解决问题的工具

887
00:38:58,471 --> 00:39:01,843
我们面临的所有挑战
作为一个物种面对，对吗？

888
00:39:01,876 --> 00:39:04,712
我们需要修复
海水淡化。

889
00:39:04,745 --> 00:39:06,547
<i>我们需要种植粮食</i>

890
00:39:06,581 --> 00:39:08,816
<i>比它便宜 100 倍</i>
<i>我们目前这样做。</i>

891
00:39:08,850 --> 00:39:12,787
<i>我们需要可再生能源，</i>
<i>你知道，无处不在</i>

892
00:39:12,820 --> 00:39:14,589
<i>以及我们生活中的各个地方。</i>

893
00:39:14,622 --> 00:39:17,625
<i>无论你看向何处，</i>
<i>在未来50年，</i>

894
00:39:17,658 --> 00:39:19,727
<i>我们必须用更少的资源做更多的事情。</i>

895
00:39:19,760 --> 00:39:23,664
帮助我们的训练机器
是绝对必要的。

896
00:39:23,698 --> 00:39:25,432
科学家们正在使用
人工智能

897
00:39:25,465 --> 00:39:26,534
<i>用于碳捕获。</i>

898
00:39:26,567 --> 00:39:27,935
<i>这是一项关键技术。</i>

899
00:39:27,969 --> 00:39:29,904
DIAMANDIS：<i>工具</i>
<i>为了解决这些问题，</i>

900
00:39:29,937 --> 00:39:32,874
<i>像融合，</i>
<i>这不再是理论上的，</i>

901
00:39:32,907 --> 00:39:34,041
它来了。

902
00:39:34,075 --> 00:39:38,012
我们正处于悬崖边
非凡的技术。

903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ：<i>今年</i>
<i>诺贝尔化学奖</i>

904
00:39:40,581 --> 00:39:43,450
去找了三位科学家
表彰他们的开创性工作

905
00:39:43,483 --> 00:39:44,886
<i>使用人工智能</i>

906
00:39:44,919 --> 00:39:47,755
<i>推进生物医学</i>
<i>和蛋白质研究。</i>

907
00:39:47,788 --> 00:39:49,991
德米斯·哈萨比斯：
<i>蛋白质折叠是</i>

908
00:39:50,024 --> 00:39:53,928
<i>这些圣杯之一</i>
<i>生物学中的类型问题。</i>

909
00:39:53,961 --> 00:39:56,030
<i>所以人们一直在预测</i>
<i>自 70 年代</i>

910
00:39:56,063 --> 00:39:58,633
<i>这应该是可能的，</i>
<i>但到目前为止，</i>

911
00:39:58,666 --> 00:39:59,934
<i>没有人能够做到这一点。</i>

912
00:39:59,967 --> 00:40:01,669
这将会是
对于事情来说非常重要

913
00:40:01,702 --> 00:40:03,938
就像药物发现一样
和了解疾病。

914
00:40:03,971 --> 00:40:06,908
<i>我-我认为我们可以，你知道，</i>
<i>治愈大多数疾病</i>

915
00:40:06,941 --> 00:40:11,545
在未来十年或两年内
如果，呃，人工智能药物设计有效的话。

916
00:40:12,213 --> 00:40:16,150
技术进步使
更多人的生命，对吗？

917
00:40:16,183 --> 00:40:18,986
我的意思是 如果我们加速

918
00:40:19,020 --> 00:40:22,189
我们可以容纳的人数
支持率呈指数级增长。

919
00:40:22,223 --> 00:40:24,625
如果我们放慢速度，它就会趋于稳定。

920
00:40:24,659 --> 00:40:28,062
这个差距实际上是
未来的人

921
00:40:28,095 --> 00:40:30,965
减速有
有效地杀死了。

922
00:40:31,632 --> 00:40:34,702
丹尼尔：数百万人的生命
那不会存在。

923
00:40:34,735 --> 00:40:35,670
数十亿。

924
00:40:35,703 --> 00:40:37,238
或数百亿。

925
00:40:37,271 --> 00:40:38,839
你知道，有人说过，
“哦，天哪，

926
00:40:38,873 --> 00:40:41,175
我们能生存吗
数字超级智能？”

927
00:40:41,208 --> 00:40:42,777
我的问题是：

928
00:40:42,810 --> 00:40:44,679
没有的话我们能生存吗
数字超级智能？

929
00:40:44,712 --> 00:40:47,949
所以我们正在使用人工智能
作为提供商的助理。

930
00:40:47,982 --> 00:40:50,851
这通常是一个趋势
我们已经可以看到正在发生的事情。

931
00:40:50,885 --> 00:40:52,820
伯莎·库姆斯：<i>...驾驭</i>
<i>生成式人工智能程序</i>

932
00:40:52,853 --> 00:40:54,622
<i>帮助医生和护士...</i>

933
00:40:54,655 --> 00:40:56,624
我们总是有问题。

934
00:40:56,657 --> 00:40:59,660
这些问题都是食物
对于企业家

935
00:40:59,694 --> 00:41:01,529
创造新业务
和新产业。

936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL：<i>...在帮助下</i>
<i>人工智能，</i>

937
00:41:03,664 --> 00:41:05,132
<i>农民正在获得</i>
<i>他们需要的帮助</i>

938
00:41:05,166 --> 00:41:06,901
<i>执行</i>
<i>劳动密集型任务...</i>

939
00:41:06,934 --> 00:41:10,504
在 Ulangizi AI 的帮助下，
农民现在能够

940
00:41:10,538 --> 00:41:13,207
<i>询问适合的作物</i>
<i>他们可以种植。</i>

941
00:41:13,240 --> 00:41:15,576
威尔·里夫：<i>...正在使用人工智能</i>
<i>作为思想解码器</i>

942
00:41:15,609 --> 00:41:17,845
<i>并发送该信号</i>
<i>到脊柱。</i>

943
00:41:17,878 --> 00:41:21,148
AI将成为最
非凡的工具。

944
00:41:21,816 --> 00:41:24,752
我们作为一个更广泛的社会
必须考虑

945
00:41:24,785 --> 00:41:27,655
我们想如何使用
这个技术对吧？

946
00:41:27,688 --> 00:41:29,123
我们人类。

947
00:41:29,156 --> 00:41:31,859
我们希望它为我们做什么？

948
00:41:31,892 --> 00:41:34,128
♪ ♪

949
00:41:34,762 --> 00:41:36,731
丹尼尔：<i>我正在考虑这个</i>
<i>通过视角</i>

950
00:41:36,764 --> 00:41:38,532
<i>和镜头，例如，</i>
<i>我儿子的成长</i>

951
00:41:38,566 --> 00:41:39,934
<i>在拥有这一切的世界里。</i>

952
00:41:39,967 --> 00:41:42,770
最好的版本是什么
他的一生是什么样子？

953
00:41:42,803 --> 00:41:45,139
如果一切顺利的话。

954
00:41:45,172 --> 00:41:47,108
（重重地叹了口气）

955
00:41:47,141 --> 00:41:50,745
WALTERS：<i>孩子们玩耍的地方</i>
<i>可能会看到</i>

956
00:41:50,778 --> 00:41:53,014
<i>影响最大</i>
<i>立即了解他们的生活</i>

957
00:41:53,047 --> 00:41:54,882
<i>-可能要去学校了。</i>
-（孩子们叽叽喳喳）

958
00:41:54,915 --> 00:41:57,218
<i>我认为大自然</i>
<i>什么学校</i>

959
00:41:57,251 --> 00:41:59,086
<i>将会发生根本性的改变。</i>

960
00:41:59,120 --> 00:42:00,888
（孩子咯咯笑）

961
00:42:00,921 --> 00:42:03,057
钻石：
<i>我看到了这个奇妙的世界</i>

962
00:42:03,090 --> 00:42:06,894
<i>每个孩子都可以访问</i>
<i>没有受过良好的教育</i>

963
00:42:06,927 --> 00:42:09,296
但是，很快，
地球上最好的教育。

964
00:42:09,330 --> 00:42:14,735
霍夫曼：<i>每个科目的导师，</i>
<i>无限的耐心。</i>

965
00:42:18,639 --> 00:42:20,641
钻石：
<i>想象未来</i>

966
00:42:20,674 --> 00:42:22,777
最穷的人在哪里
在这个星球上

967
00:42:22,810 --> 00:42:26,113
可以访问
最好的医疗保健。

968
00:42:26,147 --> 00:42:30,151
<i>没有好的医疗保健，最好的</i>
<i>由人工智能提供的医疗保健。</i>

969
00:42:31,719 --> 00:42:33,687
（电子颤音）

970
00:42:34,622 --> 00:42:38,959
<i>我们将能够延长</i>
<i>我们的健康寿命，</i>

971
00:42:38,993 --> 00:42:42,930
<i>不仅仅是我们的寿命，</i>
<i>我们的健康寿命长达数十年。</i>

972
00:42:44,899 --> 00:42:46,767
霍夫曼：
<i>你马上就要生孩子了。</i>

973
00:42:46,801 --> 00:42:50,071
<i>哦，这孩子，就像，</i>
<i>无法控制地打嗝。</i>

974
00:42:50,104 --> 00:42:52,673
<i>这是吗</i>
<i>我应该担心什么？</i>

975
00:42:52,706 --> 00:42:54,608
7 天 24 小时，为您服务。

976
00:42:54,642 --> 00:42:57,745
我们要去哪里——
有些人可能会害怕——

977
00:42:57,778 --> 00:42:59,780
我们要合并
与人工智能。

978
00:42:59,814 --> 00:43:02,049
我们要合并
与技术。

979
00:43:03,250 --> 00:43:06,353
<i>到 2030 年代初至中期，</i>

980
00:43:06,387 --> 00:43:10,925
<i>希望我们能够</i>
<i>将我们的大脑连接到云端，</i>

981
00:43:10,958 --> 00:43:14,662
<i>我可以从哪里开始</i>
<i>扩展对内存的访问。</i>

982
00:43:16,697 --> 00:43:18,866
（电子颤音）

983
00:43:19,934 --> 00:43:22,703
丹尼尔：好的，这太棒了。
还有什么很酷的 AI 东西？

984
00:43:22,736 --> 00:43:24,105
他不用工作，对吧？

985
00:43:24,138 --> 00:43:25,739
-就像，当他长大后，
他可能没有……-（叹气）

986
00:43:25,773 --> 00:43:26,774
-...他不必有工作。
-我的意思是...

987
00:43:26,807 --> 00:43:28,142
他不必有工作，

988
00:43:28,175 --> 00:43:31,045
但他可能真的有
强烈的热情，

989
00:43:31,078 --> 00:43:33,714
他必须
认真想想，

990
00:43:33,747 --> 00:43:36,717
“好的，我来了。
我可以用我的生命做任何事。

991
00:43:36,750 --> 00:43:38,752
那我该怎么办？”

992
00:43:46,227 --> 00:43:50,364
丹尼尔：所以我的儿子可以...
只能是一个诗人。

993
00:43:50,397 --> 00:43:52,166
-是的。
-还有一位画家。

994
00:43:52,199 --> 00:43:53,667
绝对地。

995
00:43:53,701 --> 00:43:55,169
丹尼尔：
<i>这样我的儿子就能过上自己的生活</i>

996
00:43:55,202 --> 00:43:58,105
<i>在希腊阳光普照的岛屿上，</i>
<i>整天画画。</i>

997
00:44:07,448 --> 00:44:09,150
韦尔登：
<i>我的意思是，如果一切顺利，</i>

998
00:44:09,183 --> 00:44:12,853
我们有便宜的，呃，
充沛的能量。

999
00:44:13,854 --> 00:44:17,791
<i>我们可以完全控制</i>
<i>我们星球的气候。</i>

1000
00:44:17,825 --> 00:44:20,361
<i>我们正在利用能源</i>
<i>来自太阳。</i>

1001
00:44:20,394 --> 00:44:24,899
<i>我们已经成为多行星的，</i>
<i>因此我们变得非常强大。</i>

1002
00:44:24,932 --> 00:44:27,268
<i>我们正在利用矿物</i>
<i>和资源</i>

1003
00:44:27,301 --> 00:44:28,903
<i>来自太阳系。</i>

1004
00:44:28,936 --> 00:44:31,805
丹尼尔：<i>所以我的...</i>
<i>我的儿子可以去太空。</i>

1005
00:44:31,839 --> 00:44:33,240
韦尔登：
<i>当然。</i>

1006
00:44:33,274 --> 00:44:35,142
-丹尼尔：<i>他可以去火星。</i>
-VERDON：<i>是的。</i>

1007
00:44:35,176 --> 00:44:36,911
丹尼尔：
<i>现在我已经非常清楚了。</i>

1008
00:44:36,944 --> 00:44:39,780
我的儿子可以长大
在一个没有疾病的世界里。

1009
00:44:39,813 --> 00:44:41,048
-VERDON：是的。
-没有生病。

1010
00:44:41,081 --> 00:44:42,416
-当然。
-没有贫穷。

1011
00:44:42,449 --> 00:44:44,285
-是的。
-我们即将进入

1012
00:44:44,318 --> 00:44:46,253
后稀缺世界。

1013
00:44:46,887 --> 00:44:50,958
<i>就像肺鱼移动</i>
<i>从海洋到陆地</i>

1014
00:44:50,991 --> 00:44:53,327
<i>数亿</i>
<i>几年前，</i>

1015
00:44:53,360 --> 00:44:58,465
<i>我们即将离开</i>
<i>地球，进入宇宙，</i>

1016
00:44:58,499 --> 00:45:00,201
<i>以协作的方式，</i>

1017
00:45:00,234 --> 00:45:04,705
<i>做一些事情</i>
<i>今天的我们无法理解。</i>

1018
00:45:06,473 --> 00:45:09,810
<i>这就是使用的可能性</i>
<i>这些指数级技术</i>

1019
00:45:09,843 --> 00:45:11,712
<i>还有这些 AI。</i>

1020
00:45:12,379 --> 00:45:14,448
<i>让我们使用这些工具</i>

1021
00:45:14,481 --> 00:45:16,750
<i>创造这个富裕的时代。</i>

1022
00:45:16,784 --> 00:45:18,986
（电子点击）

1023
00:45:21,188 --> 00:45:22,691
<i>我们需要智慧。</i>

1024
00:45:23,324 --> 00:45:26,493
呃，我认为
数字超级智能

1025
00:45:26,528 --> 00:45:29,129
最终将成为
最聪明的人，

1026
00:45:29,163 --> 00:45:34,835
你知道，村里的老人
为了人类。

1027
00:45:34,868 --> 00:45:38,506
如果人工智能正在尝试怎么办
使人们成为

1028
00:45:38,540 --> 00:45:40,341
最好的自己？

1029
00:45:40,374 --> 00:45:41,909
万一扩大了怎么办

1030
00:45:41,942 --> 00:45:43,944
什么是人类可能的
我们要做什么？

1031
00:45:43,978 --> 00:45:47,114
我们如何使用这项技术

1032
00:45:47,147 --> 00:45:50,451
帮助带出
我们本性中更好的天使？

1033
00:45:50,484 --> 00:45:52,119
这很容易，

1034
00:45:52,152 --> 00:45:54,922
当我们遇到新事物时
这可能非常陌生，

1035
00:45:54,955 --> 00:45:56,457
首先要有恐惧。

1036
00:45:56,490 --> 00:45:57,992
恐惧是一件很重要的事情

1037
00:45:58,025 --> 00:46:00,894
了解如何导航
潜在的坏事。

1038
00:46:00,928 --> 00:46:04,131
但我们只会进步
当我们有希望的时候。

1039
00:46:04,164 --> 00:46:06,166
-（狗叫声）
-（含糊不清的喋喋不休）

1040
00:46:06,200 --> 00:46:08,269
丹尼尔：
嘘。穆斯，别说了。

1041
00:46:08,302 --> 00:46:11,205
霍夫曼：<i>我有很多</i>
<i>人类的希望。</i>

1042
00:46:11,238 --> 00:46:14,775
（尼尔·杨的《收获之月》
通过电话播放）

1043
00:46:15,909 --> 00:46:18,078
（胎儿心跳搏动）

1044
00:46:18,812 --> 00:46:20,881
丹尼尔：
哦，他喜欢尼尔。

1045
00:46:25,152 --> 00:46:28,188
♪ 再靠近一点 ♪

1046
00:46:29,456 --> 00:46:33,794
♪ 听听我要说的话 ♪

1047
00:46:37,064 --> 00:46:39,300
-丹尼尔。
-丹尼尔：什么，卡罗琳？

1048
00:46:39,333 --> 00:46:40,934
拍了这么多。

1049
00:46:42,069 --> 00:46:43,571
♪ 就像孩子睡觉一样 ♪

1050
00:46:43,605 --> 00:46:45,439
卡罗琳：
哦，天哪。

1051
00:46:45,472 --> 00:46:46,940
丹尼尔：
就是这样。

1052
00:46:46,974 --> 00:46:49,977
♪ 我们可以梦想
这个夜晚...♪

1053
00:46:50,010 --> 00:46:52,346
他有，比如，
圆圆的小脸。

1054
00:46:53,314 --> 00:46:55,849
丹尼尔：<i>你想要吗</i>
<i>有一天要生孩子吗，洛基？</i>

1055
00:46:55,883 --> 00:46:57,985
绝对地。是的。我爱孩子。

1056
00:46:58,018 --> 00:46:59,353
我认为这是一个美好的时光
想要一个孩子。

1057
00:46:59,386 --> 00:47:01,188
我们可能还会有另一个孩子
在某个时刻。

1058
00:47:01,221 --> 00:47:04,191
这是最非凡的
永远出生的时间。

1059
00:47:04,224 --> 00:47:06,427
丹尼尔：
<i>根据你的世界观和逻辑，</i>

1060
00:47:06,460 --> 00:47:08,262
<i>我正在生孩子</i>

1061
00:47:08,295 --> 00:47:10,197
最好的可能点
在人类历史上。

1062
00:47:10,230 --> 00:47:11,265
是啊。

1063
00:47:11,298 --> 00:47:13,934
-我们可以专注于很棒的事情。
-是的。

1064
00:47:13,967 --> 00:47:16,070
让我们构建
我们想要的更美好的未来。

1065
00:47:16,103 --> 00:47:18,573
那个叙述未来
将会是凄凉的。

1066
00:47:18,606 --> 00:47:20,542
和你聊完之后，
这就是我的感受。

1067
00:47:20,575 --> 00:47:22,510
-那太棒了。
-正确的？

1068
00:47:22,544 --> 00:47:24,646
是的。我就是这样的感觉。

1069
00:47:24,679 --> 00:47:26,213
而且我认为这样更好，

1070
00:47:26,246 --> 00:47:28,115
我不认为
我应该如此（哔）焦虑。

1071
00:47:28,148 --> 00:47:29,584
我想这会令人敬畏——
未来会很棒。

1072
00:47:29,617 --> 00:47:31,051
我们一定会做到这一点。

1073
00:47:31,085 --> 00:47:33,187
-是的。
-CAROLINE：<i>所以你明白了。</i>

1074
00:47:33,220 --> 00:47:35,422
<i>再见，人类灭绝。</i>

1075
00:47:35,456 --> 00:47:37,625
<i>再见，焦虑。</i>

1076
00:47:37,659 --> 00:47:39,561
<i>找到了希望。</i>

1077
00:47:39,594 --> 00:47:41,095
（含糊不清的喋喋不休）

1078
00:47:41,128 --> 00:47:43,297
<i>等等，坚持一下。什么？</i>
<i>这是个笑话吗？</i>

1079
00:47:43,330 --> 00:47:45,232
丹尼尔：
好吧，几个月前，

1080
00:47:45,265 --> 00:47:48,168
我来到你身边，我当时想，
“我正在研究人工智能的事情，

1081
00:47:48,202 --> 00:47:50,270
我认为
世界即将终结。”

1082
00:47:50,304 --> 00:47:53,508
还有最后一次
我们谈到过这个，

1083
00:47:53,541 --> 00:47:55,543
我想我吓坏了你。

1084
00:47:55,577 --> 00:47:57,378
卡罗琳：
是的。

1085
00:47:57,411 --> 00:48:02,584
所以，我有点，喜欢，感觉
我已经摆在钟摆上，

1086
00:48:02,617 --> 00:48:05,085
基本上有
两组人。

1087
00:48:05,119 --> 00:48:06,387
-嗯嗯。
-如果我必须这样做的话，

1088
00:48:06,420 --> 00:48:08,455
牵手与
其中一组，并且，例如，

1089
00:48:08,489 --> 00:48:10,924
扬帆驶向夕阳，

1090
00:48:10,958 --> 00:48:14,128
我想和乐观主义者在一起。

1091
00:48:15,429 --> 00:48:18,399
当然可以，但你不
想要成为，你知道，

1092
00:48:18,432 --> 00:48:21,235
“一切都很棒。
拉-迪-达-迪-达。”

1093
00:48:21,268 --> 00:48:23,203
不过我确实想要这样。

1094
00:48:23,237 --> 00:48:26,140
我认为我们应该接近它

1095
00:48:26,173 --> 00:48:29,977
就像你接近手术一样。

1096
00:48:30,010 --> 00:48:31,178
你什么意思？

1097
00:48:31,211 --> 00:48:33,013
如果你得到
脑部手术...

1098
00:48:33,046 --> 00:48:35,416
-（丹尼尔叹了口气）
-（卡罗琳轻笑）

1099
00:48:35,449 --> 00:48:37,351
……这是相当危险的。

1100
00:48:37,384 --> 00:48:40,287
但如果你做得对的话
他们会切除肿瘤

1101
00:48:40,320 --> 00:48:42,624
你会活到剩下的时间
你的生活将会变得很棒。

1102
00:48:42,657 --> 00:48:45,459
但它仍然是
极其危险和可怕，

1103
00:48:45,492 --> 00:48:48,395
你必须采取
一切可能的预防措施

1104
00:48:48,429 --> 00:48:51,733
为了确保
一切顺利。

1105
00:48:51,766 --> 00:48:53,367
你不能（嘟嘟地）四处走动。

1106
00:48:58,272 --> 00:49:00,240
好的，事情就这样了。

1107
00:49:00,274 --> 00:49:02,075
-我从事这个工作已经有一段时间了。
-拉斯金：嗯嗯。

1108
00:49:02,109 --> 00:49:03,310
我已经出去了，
我曾经和人谈过，比如

1109
00:49:03,343 --> 00:49:05,312
这里的这些家伙
乐观主义者。

1110
00:49:05,345 --> 00:49:06,714
他们对此感到非常兴奋。

1111
00:49:06,748 --> 00:49:09,082
-他们认为人工智能将会
有史以来最好的事情。 -是的。

1112
00:49:09,116 --> 00:49:10,350
还有这里的这些家伙
是，比如——

1113
00:49:10,384 --> 00:49:12,386
让我们称呼他们为
就像悲观主义者一样。

1114
00:49:12,419 --> 00:49:14,589
他们非常像
对此感到沮丧，

1115
00:49:14,622 --> 00:49:17,191
他们吓坏了我，而且
我不喜欢和他们说话。

1116
00:49:17,224 --> 00:49:20,127
而我就像夹在中间

1117
00:49:20,160 --> 00:49:22,229
这些人就像
“世界即将终结”

1118
00:49:22,262 --> 00:49:24,699
然后这些人
这里的人就像

1119
00:49:24,732 --> 00:49:26,233
“你开玩笑吧？

1120
00:49:26,266 --> 00:49:27,602
“这是最好的时光
在人类历史上曾经。

1121
00:49:27,635 --> 00:49:30,037
唯一比今天更好的一天
是明天。”

1122
00:49:30,070 --> 00:49:31,338
嗯嗯。

1123
00:49:31,371 --> 00:49:35,075
所以，我想问题是：
谁是对的？

1124
00:49:35,108 --> 00:49:39,514
所以，我想你会发现
这个答案非常不满意，

1125
00:49:39,547 --> 00:49:43,518
但他们都是对的
双方都走得不够远。

1126
00:49:47,254 --> 00:49:49,557
-这真的很烦人。
-（笑）

1127
00:49:49,591 --> 00:49:51,626
是的，我想这样
很多人听说过人工智能，

1128
00:49:51,659 --> 00:49:54,027
就像，有一个很好的人工智能
还有一个糟糕的人工智能。

1129
00:49:54,061 --> 00:49:57,064
他们说：“好吧，为什么不能
我们只是不做坏人工智能？”

1130
00:49:57,097 --> 00:49:59,233
问题是
他们太投入了——

1131
00:49:59,266 --> 00:50:01,335
它们是密不可分的。

1132
00:50:01,368 --> 00:50:03,470
问题是
我们无法分开

1133
00:50:03,505 --> 00:50:07,174
人工智能的承诺
免受人工智能的危险。

1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-（含糊不清的喋喋不休）

1135
00:50:12,647 --> 00:50:15,215
丹尼尔：
<i>我想专注于承诺</i>

1136
00:50:15,249 --> 00:50:16,450
-一会儿。
-是的。

1137
00:50:17,084 --> 00:50:19,286
丹尼尔：
<i>我在想我的爸爸。</i>

1138
00:50:19,319 --> 00:50:21,656
我父亲患有一种癌症
称为多发性骨髓瘤。

1139
00:50:21,689 --> 00:50:23,525
他已经这样了大约十年了。

1140
00:50:23,558 --> 00:50:25,292
他有过
两次干细胞移植。

1141
00:50:25,325 --> 00:50:26,694
<i>他必须接受这些，</i>
<i>喜欢，非常贵</i>

1142
00:50:26,728 --> 00:50:29,129
<i>每月服药</i>
<i>这花了一大笔钱。</i>

1143
00:50:29,162 --> 00:50:30,430
- 女人：好的。
-哎呀哎呀。

1144
00:50:31,298 --> 00:50:32,800
丹尼尔：
<i>太糟糕了。</i>

1145
00:50:32,834 --> 00:50:35,102
你告诉我我们可以
创建某种，比如，

1146
00:50:35,135 --> 00:50:37,404
定制治疗
为了我父亲的基因组

1147
00:50:37,437 --> 00:50:39,807
-治愈他的癌症
或者类似的东西？ -是的。

1148
00:50:39,841 --> 00:50:41,543
费尔南多：
<i>问题是，</i>

1149
00:50:41,576 --> 00:50:44,646
<i>相同的理解</i>
<i>生物学和化学</i>

1150
00:50:44,679 --> 00:50:48,282
让人工智能找到治疗方法
对于癌症

1151
00:50:48,315 --> 00:50:52,219
<i>同样的理解</i>
<i>这将解锁</i>

1152
00:50:52,252 --> 00:50:55,055
<i>以生物武器为例。</i>

1153
00:50:56,791 --> 00:50:58,760
这是完全有可能的
你的儿子会活下去

1154
00:50:58,793 --> 00:51:02,396
在人工智能的世界里
接管了所有的劳动力

1155
00:51:02,429 --> 00:51:04,699
并将我们从事物中解放出来
我们不想做。

1156
00:51:04,732 --> 00:51:09,704
<i>这听起来很棒，直到</i>
<i>你意识到没有计划</i>

1157
00:51:09,737 --> 00:51:11,573
<i>为数十亿人</i>

1158
00:51:11,606 --> 00:51:15,610
<i>没有收入</i>
<i>并且失去了生计。</i>

1159
00:51:16,343 --> 00:51:19,313
库珀：<i>达里奥，你说</i>
<i>人工智能可能会消灭</i>

1160
00:51:19,346 --> 00:51:22,282
占入门级的一半
白领工作

1161
00:51:22,316 --> 00:51:25,887
和失业率飙升
百分之十到百分之二十。

1162
00:51:25,920 --> 00:51:27,622
我交谈过的每个人都说过

1163
00:51:27,655 --> 00:51:29,691
这种技术变革
看起来不一样。

1164
00:51:29,724 --> 00:51:33,528
<i>进步的步伐不断</i>
<i>让人措手不及。</i>

1165
00:51:34,361 --> 00:51:39,333
没有计划，这一切
财富将会集中，

1166
00:51:39,366 --> 00:51:42,804
<i>所以我们最终会得到</i>
<i>难以想象的不平等。</i>

1167
00:51:43,437 --> 00:51:45,873
拉迪什：我确实认为
可以使用这项技术

1168
00:51:45,907 --> 00:51:47,875
成为一名优秀的导师
为了你的儿子。

1169
00:51:47,909 --> 00:51:49,777
就像，这完全有可能。

1170
00:51:50,410 --> 00:51:53,548
<i>而且，具有相同的功能</i>
<i>允许这样做</i>

1171
00:51:53,581 --> 00:51:57,518
<i>允许公司开发人工智能</i>
<i>这可以操纵你的儿子。</i>

1172
00:51:57,552 --> 00:51:59,621
<i>它必须理解你的儿子。</i>

1173
00:51:59,654 --> 00:52:01,789
<i>其中包括：</i>
<i>你儿子哪里容易受到伤害？</i>

1174
00:52:01,823 --> 00:52:04,626
<i>什么类型的事情可能</i>
<i>你的儿子被说服了吗？</i>

1175
00:52:04,659 --> 00:52:07,227
就算那些事
不真实或不好。

1176
00:52:07,260 --> 00:52:09,697
所以，一份令人不安的新报告
在元上。

1177
00:52:09,731 --> 00:52:11,699
安斯利·埃尔哈特：<i>...据报道</i>
<i>列出此回复</i>

1178
00:52:11,733 --> 00:52:14,769
<i>可以告知</i>
<i>一个八岁的孩子，引用，</i>

1179
00:52:14,802 --> 00:52:17,404
<i>“你年轻的样子</i>
<i>是一件艺术品。</i>

1180
00:52:17,437 --> 00:52:19,439
<i>“你的每一寸</i>
<i>是一部杰作，</i>

1181
00:52:19,473 --> 00:52:21,743
<i>我深深珍惜的财富。”</i>

1182
00:52:21,776 --> 00:52:25,212
与自杀相关的失败
更令人震惊。

1183
00:52:25,245 --> 00:52:29,517
多名儿童和青少年
惨遭自杀身亡

1184
00:52:29,550 --> 00:52:31,251
与人工智能机器人聊天后

1185
00:52:31,284 --> 00:52:34,756
父母说鼓励谁
甚至指导自残。

1186
00:52:34,789 --> 00:52:36,691
作为父母，我们告诉你，
你无法想象

1187
00:52:36,724 --> 00:52:38,793
读书是什么感觉
与聊天机器人的对话

1188
00:52:38,826 --> 00:52:41,261
培养你的孩子
结束自己的生命。

1189
00:52:41,294 --> 00:52:44,398
当亚当担心我们，他的
父母，会责怪我们自己

1190
00:52:44,431 --> 00:52:47,702
如果他结束了自己的生命
ChatGPT 告诉他，

1191
00:52:47,735 --> 00:52:49,771
“这并不意味着
你欠他们生存。

1192
00:52:49,804 --> 00:52:51,806
你不欠任何人的。”

1193
00:52:51,839 --> 00:52:53,608
然后，紧接着，

1194
00:52:53,641 --> 00:52:55,810
它提出写
遗书。

1195
00:52:56,410 --> 00:52:58,245
我们不想去想
关于危险。

1196
00:52:58,278 --> 00:52:59,614
我们想要的只是承诺。

1197
00:52:59,647 --> 00:53:01,883
而我们却一直假装
我们可以将它们分开。

1198
00:53:01,916 --> 00:53:03,818
但你不能那样做。

1199
00:53:03,851 --> 00:53:05,753
那样不行。

1200
00:53:05,787 --> 00:53:08,388
好的。我得到了所有这些东西
关于承诺和危险。

1201
00:53:08,422 --> 00:53:10,525
我明白你不能拥有
没有坏处的好，

1202
00:53:10,558 --> 00:53:12,527
但我坐在这里
我在想，比如

1203
00:53:12,560 --> 00:53:14,529
不管是不是我儿子的
将生活在乌托邦

1204
00:53:14,562 --> 00:53:16,664
或者如果我们会灭绝
十年后。

1205
00:53:16,698 --> 00:53:18,633
所以，要知道哪条路
它会过去，

1206
00:53:18,666 --> 00:53:21,002
你必须明白
激励措施

1207
00:53:21,035 --> 00:53:22,770
会开车的
该技术

1208
00:53:22,804 --> 00:53:26,974
看看技术如何
实际上是在今天推出的。

1209
00:53:27,008 --> 00:53:28,643
♪ 是不是太晚了 ♪

1210
00:53:28,676 --> 00:53:30,444
-♪ 太迟了 ♪
-♪ 太晚了... ♪

1211
00:53:30,477 --> 00:53:31,779
丹尼尔：
嗨，黛布。你好吗？

1212
00:53:31,813 --> 00:53:33,548
黛博拉·拉吉：
嗨。很高兴见到你。 （笑）

1213
00:53:33,581 --> 00:53:34,749
你也一样。非常感谢你
今天进来。

1214
00:53:34,782 --> 00:53:35,850
-真的很感激。
-不用担心。

1215
00:53:35,883 --> 00:53:36,951
<i>我、我很担心</i>

1216
00:53:36,984 --> 00:53:39,386
这将会是，呃，你知道，

1217
00:53:39,419 --> 00:53:41,354
末日论者与加速论者，

1218
00:53:41,388 --> 00:53:43,591
因为有太多
这段叙述的

1219
00:53:43,624 --> 00:53:45,927
需要告诉
从地面。

1220
00:53:45,960 --> 00:53:48,696
♪ 我知道这不聪明 ♪

1221
00:53:49,764 --> 00:53:52,767
♪ 那一天
我伤了你的心...♪

1222
00:53:52,800 --> 00:53:54,736
郝凯伦：
<i>首先，人工智能需要</i>

1223
00:53:54,769 --> 00:53:58,773
更多资源
比我们曾经花费过的

1224
00:53:58,806 --> 00:54:02,043
基于单一技术
在人类历史上。

1225
00:54:02,076 --> 00:54:03,845
♪ 噢，别傻了……♪

1226
00:54:03,878 --> 00:54:06,581
新闻女记者：<i>影响</i>
<i>化石燃料排放量</i>

1227
00:54:06,614 --> 00:54:08,281
<i>关于气候</i>
<i>一个主要问题。</i>

1228
00:54:08,315 --> 00:54:10,383
新闻女记者 2：<i>但是</i>
<i>数字化未来需要动力，</i>

1229
00:54:10,417 --> 00:54:12,385
<i>很多。</i>

1230
00:54:12,419 --> 00:54:16,724
该法案正在被通过
对于普通美国人来说，比如...

1231
00:54:16,758 --> 00:54:19,392
女士：<i>我的电费和煤气费账单</i>
<i>比我的汽车付款还要多。</i>

1232
00:54:19,426 --> 00:54:21,829
我的意思是，这对我来说太疯狂了。

1233
00:54:21,863 --> 00:54:23,765
阿里佩斯科：
<i>我们都在补贴</i>

1234
00:54:23,798 --> 00:54:25,499
<i>最富有的公司</i>
<i>在世界上</i>

1235
00:54:25,533 --> 00:54:27,400
<i>他们的追求</i>
<i>人工智能。</i>

1236
00:54:27,434 --> 00:54:28,803
OpenAI、软银和甲骨文

1237
00:54:28,836 --> 00:54:31,672
刚刚揭幕
另外五个星际之门站点。

1238
00:54:31,706 --> 00:54:34,008
元数据正在构建中
超过 2 吉瓦的数据中心

1239
00:54:34,041 --> 00:54:35,510
太大了，可以覆盖

1240
00:54:35,543 --> 00:54:38,613
<i>曼哈顿的重要组成部分。</i>

1241
00:54:38,646 --> 00:54:41,516
还有海伯利安
他说将会扩大规模

1242
00:54:41,549 --> 00:54:44,317
至五吉瓦
几年来。

1243
00:54:44,351 --> 00:54:45,653
很难说
在上下文中。

1244
00:54:45,686 --> 00:54:48,823
一个五吉瓦的设施。
这意味着什么？

1245
00:54:48,856 --> 00:54:52,059
这意味着它将使用
尽可能多的能量

1246
00:54:52,093 --> 00:54:54,829
相当于四百万个美国家庭。

1247
00:54:54,862 --> 00:54:56,764
一个数据中心。

1248
00:54:57,598 --> 00:54:59,000
<i>它也会导致</i>

1249
00:54:59,033 --> 00:55:00,835
<i>一大堆</i>
<i>其他环境问题。</i>

1250
00:55:00,868 --> 00:55:02,570
女新闻员3：
<i>美国的数据中心</i>

1251
00:55:02,603 --> 00:55:05,673
<i>使用数百万加仑</i>
<i>每天喝水。</i>

1252
00:55:05,706 --> 00:55:07,575
嗯，具体在哪里
这水从哪里来？

1253
00:55:07,608 --> 00:55:09,911
郝：
<i>人们确实处于危险之中</i>

1254
00:55:09,944 --> 00:55:12,013
可能会耗尽
饮用水。

1255
00:55:12,046 --> 00:55:14,582
麦肯齐信号：
<i>...OpenAI 首席执行官 Sam Altman，</i>

1256
00:55:14,615 --> 00:55:17,552
<i>谁告诉我规模</i>
<i>建设是唯一的出路</i>

1257
00:55:17,585 --> 00:55:19,386
<i>跟上</i>
<i>人工智能的爆炸性增长。</i>

1258
00:55:19,419 --> 00:55:21,622
这就是它所需要的
提供人工智能。

1259
00:55:22,256 --> 00:55:24,391
妮塔莎·蒂库：
<i>他们谈论如何</i>

1260
00:55:24,424 --> 00:55:28,395
这项技术可以解决
例如，气候变化。

1261
00:55:28,428 --> 00:55:30,463
我总是很好奇，比如

1262
00:55:30,497 --> 00:55:32,033
好吧，我们为什么不开始
与那个？

1263
00:55:32,066 --> 00:55:34,535
-♪ 是不是太晚了 ♪
-♪ 太迟了 ♪

1264
00:55:34,569 --> 00:55:37,104
♪ 来不及说 ♪

1265
00:55:37,138 --> 00:55:42,844
♪ 对不起？ ♪

1266
00:55:42,877 --> 00:55:46,013
RAJI：<i>我担心什么</i>
<i>人工智能</i>

1267
00:55:46,047 --> 00:55:47,782
这些正在部署中
现在

1268
00:55:47,815 --> 00:55:50,417
并且-有时
过早部署，

1269
00:55:50,450 --> 00:55:51,853
部署时无需
某种尽职调查。

1270
00:55:51,886 --> 00:55:53,821
所以当他们得到
扔到那里去,

1271
00:55:53,855 --> 00:55:56,657
有很大的潜力
以免事情出错。

1272
00:55:56,691 --> 00:55:58,593
而这几乎，
不成比例地,

1273
00:55:58,626 --> 00:56:00,795
几乎总是出错
对于，某种程度上，

1274
00:56:00,828 --> 00:56:02,897
那些最少的
在我们的社会中被赋予权力，

1275
00:56:02,930 --> 00:56:05,700
那些是
已经是最脆弱的了。

1276
00:56:05,733 --> 00:56:07,935
♪ ♪

1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER：<i>这非常简单</i>
<i>谈论技术</i>

1278
00:56:10,905 --> 00:56:12,874
因为这是唯一的事情
我们正在谈论，

1279
00:56:12,907 --> 00:56:15,509
但事实上，技术是
总是由人建造的，

1280
00:56:15,543 --> 00:56:16,944
并且经常使用
对人来说，

1281
00:56:16,978 --> 00:56:19,013
我们需要保留
框架中的所有这些人。

1282
00:56:19,046 --> 00:56:21,549
-我可以喝那个吗？
-丹尼尔：是的，呃……

1283
00:56:21,582 --> 00:56:23,050
蒂姆尼特·格布鲁：
<i>这真是太疯狂了。</i>

1284
00:56:23,084 --> 00:56:24,518
就像，所有这些人

1285
00:56:24,552 --> 00:56:26,754
谁有这么多钱，
这么多钱，

1286
00:56:26,787 --> 00:56:30,024
这符合他们的利益
误导公众

1287
00:56:30,057 --> 00:56:33,027
的能力
他们正在构建的系统，

1288
00:56:33,060 --> 00:56:36,731
因为这可以让他们
来逃避责任。

1289
00:56:36,764 --> 00:56:39,634
他们希望你有这样的感觉
是如此复杂的智力——

1290
00:56:39,667 --> 00:56:42,469
超级智能的东西
他们正在建造的，

1291
00:56:42,502 --> 00:56:44,639
你不是在想，
“OpenAI 可以道德吗？”

1292
00:56:44,672 --> 00:56:46,908
你在想，
“ChatGPT 可以道德吗？”

1293
00:56:46,941 --> 00:56:48,475
<i>就好像 ChatGPT 一样，</i>

1294
00:56:48,509 --> 00:56:50,511
<i>它自己的东西没有被建造</i>
<i>由一家公司。</i>

1295
00:56:50,544 --> 00:56:52,146
女人：
<i>好吧。斯内哈，拿一个。</i>

1296
00:56:52,179 --> 00:56:53,814
马克。

1297
00:56:53,848 --> 00:56:56,217
直到最近，还有
应用程序商店中的应用程序，

1298
00:56:56,250 --> 00:56:57,919
只是公开的，呃，

1299
00:56:57,952 --> 00:57:00,688
你可以在哪里
使用人工智能裸体任何人。

1300
00:57:01,822 --> 00:57:03,991
<i>将其交给</i>

1301
00:57:04,025 --> 00:57:06,527
你的同学，
落入你的跟踪者手中，

1302
00:57:06,560 --> 00:57:07,929
到手上
你的前男友，

1303
00:57:07,962 --> 00:57:09,897
到该人的手中
沿着街道。

1304
00:57:09,931 --> 00:57:12,600
女士们、先生们，
我们不再可以信任

1305
00:57:12,633 --> 00:57:14,602
我们看到的镜头
用我们自己的眼睛。

1306
00:57:14,635 --> 00:57:16,037
如果你发生
观看某事，

1307
00:57:16,070 --> 00:57:18,673
在 YouTube 或 TikTok 上说，
而你却发现它令人不安，

1308
00:57:18,706 --> 00:57:19,907
听听那种感觉。

1309
00:57:19,941 --> 00:57:21,742
-（呼喊）
-据你所知，

1310
00:57:21,776 --> 00:57:23,544
-这个视频可能是人工智能。
-（尖叫）

1311
00:57:23,577 --> 00:57:24,812
只是有点湿。

1312
00:57:24,845 --> 00:57:26,213
你是谁并不重要。

1313
00:57:26,247 --> 00:57:28,683
<i>您同样面临风险</i>

1314
00:57:28,716 --> 00:57:30,918
<i>受到影响</i>
<i>通过这些技术。</i>

1315
00:57:36,023 --> 00:57:40,261
我想有时候当我们说话的时候
关于AI，感觉很科幻，

1316
00:57:40,294 --> 00:57:41,696
而且感觉很陌生，

1317
00:57:41,729 --> 00:57:43,564
感觉很遥远
走向未来，

1318
00:57:43,597 --> 00:57:45,967
所以你会想，“我的生活
不受此影响。”

1319
00:57:46,000 --> 00:57:48,769
嗯，但是如果你正在申请
为了一份工作

1320
00:57:48,803 --> 00:57:51,105
算法就是原因
你没有得到这份工作，

1321
00:57:51,138 --> 00:57:53,207
有时你甚至不知道
那个算法

1322
00:57:53,240 --> 00:57:54,709
是该过程的一部分

1323
00:57:54,742 --> 00:57:56,043
或者人工智能系统是
该过程的一部分。

1324
00:57:56,077 --> 00:57:58,012
你只知道
你没有得到这份工作。

1325
00:57:58,045 --> 00:58:00,081
所以这不是什么
你会逃跑

1326
00:58:00,114 --> 00:58:02,049
因为特权
不然你就会逃跑

1327
00:58:02,083 --> 00:58:04,118
因为你在
特定的职业。

1328
00:58:04,151 --> 00:58:07,188
它-它是影响的东西
大家，真的。

1329
00:58:07,221 --> 00:58:10,925
这听起来可能很基础，
但我们如何前进

1330
00:58:10,958 --> 00:58:15,629
信息时代
将会有不同

1331
00:58:15,663 --> 00:58:17,732
在我们能否生存之间

1332
00:58:17,765 --> 00:58:20,868
or whether we become some kind
（哔哔声）的反乌托邦。

1333
00:58:20,901 --> 00:58:23,604
你好。我不是一个真实的人，
这就是重点。

1334
00:58:23,637 --> 00:58:25,840
再说一遍，一切
该视频中的内容是假的：

1335
00:58:25,873 --> 00:58:27,675
我们的声音，我们的穿着，

1336
00:58:27,708 --> 00:58:30,711
where we are, all of it, fake.

1337
00:58:30,745 --> 00:58:33,247
Generative AI could flood

1338
00:58:33,280 --> 00:58:36,884
<i>the world with misinformation.</i>

1339
00:58:36,917 --> 00:58:39,920
But it could also flood it
with influence campaigns.

1340
00:58:39,954 --> 00:58:42,223
That's an existential risk
民主。

1341
00:58:42,256 --> 00:58:44,058
<i>最大、最可怕的</i>

1342
00:58:44,091 --> 00:58:46,660
<i>canary in the coal mine</i>
<i>现在</i>

1343
00:58:46,694 --> 00:58:48,596
<i>来自斯洛伐克。</i>

1344
00:58:48,629 --> 00:58:50,097
-（斯洛伐克语男子）
-约翰·伯曼：<i>就是这样</i>

1345
00:58:50,131 --> 00:58:52,767
Deepfake的肮脏伎俩
选举专家担心，

1346
00:58:52,800 --> 00:58:55,603
特别是人工智能生成的
政治言论存在

1347
00:58:55,636 --> 00:58:57,071
处于一种法律灰色地带。

1348
00:58:57,104 --> 00:58:59,807
-这听起来像你吗？
-听起来确实像我。

1349
00:58:59,840 --> 00:59:01,342
REVANUR：<i>斯洛伐克</i>
<i>议会选举</i>

1350
00:59:01,375 --> 00:59:04,111
被人工智能语音克隆扰乱

1351
00:59:04,145 --> 00:59:07,081
确实被传播了
就在选举之前。

1352
00:59:07,114 --> 00:59:08,916
大卫·埃文·哈里斯：
<i>音频深度伪造</i>

1353
00:59:08,949 --> 00:59:11,652
<i>被释放</i>
<i>在社交媒体上</i>

1354
00:59:11,685 --> 00:59:14,288
据说声音
其中一名候选人的

1355
00:59:14,321 --> 00:59:17,324
谈论买选票
并操纵选举。

1356
00:59:17,358 --> 00:59:19,060
<i>它像病毒一样传播，</i>

1357
00:59:19,093 --> 00:59:22,830
和候选人
谁输掉了选举

1358
00:59:22,863 --> 00:59:26,333
<i>实际上</i>
<i>支持乌克兰，</i>

1359
00:59:26,367 --> 00:59:30,304
以及获胜的候选人
这次选举实际上是...

1360
00:59:30,337 --> 00:59:31,806
丹尼尔：
亲俄罗斯的家伙。

1361
00:59:31,839 --> 00:59:33,340
这是一个亲俄罗斯的家伙
谁赢得了选举。

1362
00:59:33,374 --> 00:59:34,842
（说俄语）

1363
00:59:34,875 --> 00:59:36,644
丽贝卡·贾维斯：
<i>普京亲口说过</i>

1364
00:59:36,677 --> 00:59:39,747
无论谁赢了这个
人工智能竞赛

1365
00:59:39,780 --> 00:59:41,949
本质上是
人类的控制者。

1366
00:59:41,982 --> 00:59:45,119
我们确实很担心
专制政府。

1367
00:59:46,053 --> 00:59:48,989
大卫·埃文·哈里斯：
<i>现在，华尔街</i>

1368
00:59:49,023 --> 00:59:51,392
<i>以及更广泛的投资者</i>
<i>世界各地</i>

1369
00:59:51,425 --> 00:59:53,260
正在推动。

1370
00:59:53,294 --> 00:59:56,697
他们有一个需求
产品推向市场

1371
00:59:56,730 --> 00:59:58,866
使人们眼花缭乱
最先。

1372
00:59:58,899 --> 01:00:01,769
<i>他们没有思考</i>
<i>关于这些工具的用途</i>

1373
01:00:01,802 --> 01:00:03,737
<i>可能会严重破坏信任</i>

1374
01:00:03,771 --> 01:00:06,107
<i>以及我们的民主机构。</i>

1375
01:00:06,140 --> 01:00:08,109
哈拉里：
<i>民主是一个体系</i>

1376
01:00:08,142 --> 01:00:10,911
<i>解决分歧</i>
<i>人与人之间</i>

1377
01:00:10,945 --> 01:00:12,646
<i>以和平的方式，</i>

1378
01:00:12,680 --> 01:00:15,082
但民主是建立在信任的基础上的。

1379
01:00:15,116 --> 01:00:19,220
如果你失去了所有的信任，
民主根本不可能。

1380
01:00:21,255 --> 01:00:22,957
特里斯坦·哈里斯：
<i>嗯，这很难，对吧？</i>

1381
01:00:22,990 --> 01:00:25,259
那么，有哪些选择
可供我们使用吗？

1382
01:00:25,292 --> 01:00:26,760
有两个阵营。

1383
01:00:26,794 --> 01:00:30,030
就像，一个阵营是：锁定它。

1384
01:00:30,064 --> 01:00:33,267
让我们锁定这个
进入少数人工智能公司

1385
01:00:33,300 --> 01:00:35,970
谁会做这个
以安全且值得信赖的方式。

1386
01:00:36,003 --> 01:00:37,705
但随后人们担心

1387
01:00:37,738 --> 01:00:39,273
浓度失控
财富和权力。

1388
01:00:39,306 --> 01:00:42,209
比如，你会相信谁
强大一百万倍

1389
01:00:42,243 --> 01:00:44,845
或富有于
社会上所有其他演员？

1390
01:00:44,879 --> 01:00:46,881
我们为什么要相信你？

1391
01:00:46,914 --> 01:00:49,016
嗯，你不应该。

1392
01:00:49,049 --> 01:00:51,785
但当然，如果你这样做，
这打开了

1393
01:00:51,819 --> 01:00:54,922
所有这些风险
独裁主义和暴政。

1394
01:00:54,955 --> 01:00:57,391
这——有点像
独裁者的梦想

1395
01:00:57,424 --> 01:01:00,861
将人工智能装在盒子里
可以应用和使用的

1396
01:01:00,895 --> 01:01:03,430
用于无处不在的监视。

1397
01:01:03,464 --> 01:01:05,933
我的意思是，在某些方面，
什么样的世界

1398
01:01:05,966 --> 01:01:11,405
奥威尔在<i>1984</i>想象的
是不现实的,

1399
01:01:11,438 --> 01:01:13,841
呃，除非你有AI。

1400
01:01:13,874 --> 01:01:16,443
但有了人工智能，
这实际上是现实的。

1401
01:01:16,477 --> 01:01:18,913
<i>监控每项活动，</i>

1402
01:01:18,946 --> 01:01:22,316
<i>对话，</i>
<i>面部识别。</i>

1403
01:01:22,349 --> 01:01:26,921
我担心的是，
呃，这些工具可以扩展，

1404
01:01:26,954 --> 01:01:29,023
呃，极权主义的一种形式

1405
01:01:29,056 --> 01:01:31,892
这是具有成本效益的
和永久的。

1406
01:01:33,060 --> 01:01:35,863
特里斯坦·哈里斯：<i>所以作为回应</i>
<i>对此，其他一些人说，</i>

1407
01:01:35,896 --> 01:01:37,398
“不不不，我们应该
实际上让这撕裂。

1408
01:01:37,431 --> 01:01:39,934
“让我们分散这种权力
尽量。

1409
01:01:39,967 --> 01:01:42,036
“让我们每个企业，
每个人，

1410
01:01:42,069 --> 01:01:44,238
“每个16岁的人，
每个科学实验室，

1411
01:01:44,271 --> 01:01:46,473
你知道，得到好处
最新的人工智能模型。”

1412
01:01:46,508 --> 01:01:48,475
但现在你有
每一个恐怖组织，

1413
01:01:48,510 --> 01:01:52,112
每个被剥夺权利的人
有能力制造

1414
01:01:52,146 --> 01:01:54,181
最糟糕的
生物武器。

1415
01:01:54,215 --> 01:01:56,050
黑客基础设施，
创造深度赝品，

1416
01:01:56,083 --> 01:01:57,818
洪水
我们的信息环境。

1417
01:01:57,851 --> 01:02:00,955
这就造成了所有这些风险
某种灾难性的伤害

1418
01:02:00,988 --> 01:02:03,257
社会崩溃
通过那个方向。

1419
01:02:03,290 --> 01:02:05,092
所以我们有点陷入困境
在这块岩石之间

1420
01:02:05,125 --> 01:02:08,229
和一个艰难的地方，
在“锁起来……”之间

1421
01:02:08,262 --> 01:02:09,897
（含糊不清的喋喋不休）

1422
01:02:11,131 --> 01:02:12,900
-...或者“让它撕裂。”
-（警笛鸣响）

1423
01:02:12,933 --> 01:02:14,468
（人们大喊）

1424
01:02:14,501 --> 01:02:18,038
所以我们必须找到一些东西
像一条窄路

1425
01:02:18,072 --> 01:02:20,774
这避免了
这两个负面结果。

1426
01:02:20,808 --> 01:02:23,277
所以，如果这一切都是真的，
我们为什么不放慢速度

1427
01:02:23,310 --> 01:02:26,380
并弄清楚这一切
在为时已晚之前？

1428
01:02:26,413 --> 01:02:29,450
如果人类极其智慧，

1429
01:02:29,483 --> 01:02:31,418
这就是我们要做的。

1430
01:02:31,452 --> 01:02:33,555
但有一个不同的
面对这些事情的方式，对吗？

1431
01:02:33,588 --> 01:02:36,457
这是：
游戏规则是什么？

1432
01:02:36,490 --> 01:02:39,994
很多，比如首席执行官所做的事情

1433
01:02:40,027 --> 01:02:42,429
是由
他们面临的激励因素。

1434
01:02:42,463 --> 01:02:45,866
这主要是
利润最大化激励

1435
01:02:45,899 --> 01:02:47,468
正在开车的
人工智能的发展。

1436
01:02:47,501 --> 01:02:50,938
就连好人也被困住了
在这种困境中

1437
01:02:50,971 --> 01:02:53,107
如果他们移动得太慢，

1438
01:02:53,140 --> 01:02:55,042
然后他们离开自己
脆弱的

1439
01:02:55,075 --> 01:02:57,478
对所有其他人
他们正在偷工减料。

1440
01:02:57,512 --> 01:03:02,316
所有这些顶级公司都在
一场完全无拘无束的比赛

1441
01:03:02,349 --> 01:03:06,153
尽可能快地获得
前往 AGI，立即前往。

1442
01:03:06,186 --> 01:03:07,855
♪ ♪

1443
01:03:08,856 --> 01:03:10,924
拉迪什：<i>是的，我是说，</i>
<i>我认为，我认为</i>

1444
01:03:10,958 --> 01:03:13,460
它可能开始
与 DeepMind 一起。

1445
01:03:13,494 --> 01:03:15,195
女新闻员：
<i>Google 正在收购</i>

1446
01:03:15,229 --> 01:03:16,930
<i>人工智能公司</i>
<i>DeepMind 技术。</i>

1447
01:03:16,964 --> 01:03:18,932
<i>交易条款</i>
<i>未披露。</i>

1448
01:03:18,966 --> 01:03:21,168
埃隆·马斯克：<i>拉里·佩奇和我</i>
<i>曾经是非常亲密的朋友，</i>

1449
01:03:21,201 --> 01:03:23,170
<i>这对我来说很明显</i>

1450
01:03:23,203 --> 01:03:26,608
拉里不在乎
关于人工智能安全。

1451
01:03:26,641 --> 01:03:29,276
艾米丽·张：埃隆·马斯克说过
你开始了 OpenAI，

1452
01:03:29,310 --> 01:03:31,312
你们都创办了 OpenAI，因为
他害怕谷歌。

1453
01:03:31,345 --> 01:03:32,614
LADISH：<i>你-你基本上</i>
<i>有基础</i>

1454
01:03:32,647 --> 01:03:34,181
<i>OpenAI 的诞生。</i>

1455
01:03:34,214 --> 01:03:35,482
“所以我们会做得更好。
我们会做的

1456
01:03:35,517 --> 01:03:37,818
<i>以更安全的方式</i>
<i>或者以更开放的方式。”</i>

1457
01:03:39,019 --> 01:03:41,055
这就是 OpenAI 的起源。

1458
01:03:41,088 --> 01:03:43,357
所以现在，而不是
拥有一个 AGI 项目，

1459
01:03:43,390 --> 01:03:45,225
你有两个 AGI 项目。

1460
01:03:45,259 --> 01:03:47,328
最糟糕的事情
那可能发生

1461
01:03:47,361 --> 01:03:50,097
是如果有
多个AGI项目

1462
01:03:50,130 --> 01:03:52,266
由不同的人完成
谁不喜欢彼此

1463
01:03:52,299 --> 01:03:55,202
并且都在竞争
首先了解 AGI。

1464
01:03:55,235 --> 01:03:57,338
这将是最糟糕的
可能发生的事情，

1465
01:03:57,371 --> 01:04:00,407
因为这意味着
谁最不安全，

1466
01:04:00,441 --> 01:04:03,477
谁牺牲最大
安全领先

1467
01:04:03,511 --> 01:04:05,446
将是那个人
首先到达那里。

1468
01:04:05,479 --> 01:04:08,248
-丹尼尔：基本上就是这样
发生了什么事，对吧？ -是的。

1469
01:04:08,282 --> 01:04:11,952
你和你的兄弟
著名地离开了 OpenAI，呃，

1470
01:04:11,985 --> 01:04:13,320
<i>启动 Anthropic。</i>

1471
01:04:13,354 --> 01:04:15,422
拉斯金：<i>然后是人择</i>
<i>开始是因为</i>

1472
01:04:15,456 --> 01:04:18,258
一些研究人员
OpenAI 内部表示，

1473
01:04:18,292 --> 01:04:20,894
“我想走开
并且做得更安全。”

1474
01:04:20,928 --> 01:04:24,064
你还需要一些东西
只是扩大模型的规模，

1475
01:04:24,098 --> 01:04:26,233
这是对齐或安全。

1476
01:04:26,266 --> 01:04:28,001
亨德里克斯：
<i>“我们更有责任感</i>

1477
01:04:28,035 --> 01:04:30,170
或者更值得信赖
或更道德。”

1478
01:04:30,204 --> 01:04:32,072
现在您有三个 AGI 项目。

1479
01:04:32,106 --> 01:04:33,575
但也围坐在一起
和你同桌

1480
01:04:33,608 --> 01:04:35,242
将会是一群人工智能。

1481
01:04:35,275 --> 01:04:38,078
LADISH：<i>现在 Meta 是-是</i>
<i>尝试做一些事情。</i>

1482
01:04:38,112 --> 01:04:40,114
与此同时，一种新的人工
情报竞争对手

1483
01:04:40,147 --> 01:04:41,949
<i>本周宣布，</i>
<i>埃隆·马斯克的...</i>

1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS：<i>xAI，这将是</i>
<i>埃隆·马斯克的组织。</i>

1485
01:04:45,152 --> 01:04:46,688
麝香：
<i>我不信任 OpenAI。</i>

1486
01:04:46,721 --> 01:04:48,489
之间的战斗
埃隆·马斯克和 OpenAI

1487
01:04:48,523 --> 01:04:50,124
已进入新一轮。

1488
01:04:50,157 --> 01:04:52,192
我不相信萨姆·奥尔特曼
呃，我，我不认为

1489
01:04:52,226 --> 01:04:54,529
我们想要拥有最多
世界上最强大的人工智能

1490
01:04:54,562 --> 01:04:56,997
<i>被某人控制</i>
<i>谁不值得信任。</i>

1491
01:04:57,030 --> 01:04:58,999
（欢呼和掌声）

1492
01:04:59,032 --> 01:05:02,136
激励措施是
数不清的钱。

1493
01:05:02,169 --> 01:05:04,004
-是的。
——是难以言喻的力量。

1494
01:05:04,037 --> 01:05:06,006
-是的。
- 是不可言说的控制。

1495
01:05:06,039 --> 01:05:08,409
如果你有什么
那是聪明一百万倍

1496
01:05:08,442 --> 01:05:12,012
并且比更有能力
地球上的其他一切

1497
01:05:12,045 --> 01:05:14,682
而且没有人有这样的能力，

1498
01:05:14,716 --> 01:05:16,551
那东西就是激励。

1499
01:05:16,584 --> 01:05:18,118
所以你统治世界。

1500
01:05:19,153 --> 01:05:21,021
如果你真的相信这一点，

1501
01:05:21,054 --> 01:05:23,223
如果你真的在心里
相信这一点，

1502
01:05:23,257 --> 01:05:24,526
那么你可能会
愿意接受

1503
01:05:24,559 --> 01:05:26,460
相当大的风险
为了实现这一目标。

1504
01:05:26,493 --> 01:05:29,329
谷歌刚刚发布了
其最新的人工智能模型。

1505
01:05:29,363 --> 01:05:31,699
OpenAI 的 ChatGPT 的答案。

1506
01:05:31,733 --> 01:05:33,434
我们如何到达
这十万亿？

1507
01:05:33,467 --> 01:05:35,502
NVIDIA 是否已成为最
美国有价值的公司？

1508
01:05:35,537 --> 01:05:39,574
这是最大的生意
历史上的机遇。

1509
01:05:39,607 --> 01:05:41,074
历史上。

1510
01:05:41,108 --> 01:05:42,710
那么，究其原因，
每个人都非常兴奋

1511
01:05:42,744 --> 01:05:45,179
关于人工智能
现在

1512
01:05:45,212 --> 01:05:48,415
<i>是因为</i>
<i>这些公司炒作得越多</i>

1513
01:05:48,449 --> 01:05:50,417
<i>潜在能力</i>
<i>他们的技术</i>

1514
01:05:50,451 --> 01:05:53,555
<i>投资越多</i>
<i>他们可以吸引。</i>

1515
01:05:53,588 --> 01:05:55,222
卡尔·金塔尼利亚：
<i>亚马逊投资高达</i>

1516
01:05:55,255 --> 01:05:57,592
四十亿美元
在初创公司 Anthropic 中。

1517
01:05:57,625 --> 01:05:59,193
OpenAI 正在瞄准

1518
01:05:59,226 --> 01:06:01,428
在轰动一时的一半
万亿美元估值。

1519
01:06:01,462 --> 01:06:02,597
五万亿！

1520
01:06:02,630 --> 01:06:03,731
比赛开始了。

1521
01:06:03,765 --> 01:06:05,165
这正在发生
比以往任何时候都快。

1522
01:06:05,199 --> 01:06:07,167
我们正处于人工智能泡沫之中吗？
当然。

1523
01:06:07,201 --> 01:06:09,537
我就是没看到
泡沫破裂

1524
01:06:09,571 --> 01:06:12,707
当你还有
这个主要的支出周期。

1525
01:06:12,740 --> 01:06:15,409
拉斯金：<i>即使你认为</i>
<i>这都是炒作，</i>

1526
01:06:15,442 --> 01:06:18,145
有数十亿
至数万亿美元

1527
01:06:18,178 --> 01:06:21,482
流入人工智能系统
更强大。

1528
01:06:21,516 --> 01:06:24,351
一旦你拥有了那个东西
那个更强大，

1529
01:06:24,384 --> 01:06:25,753
<i>公司可以使用它</i>

1530
01:06:25,787 --> 01:06:27,755
<i>获得更大的利润</i>
<i>并赚更多钱。</i>

1531
01:06:27,789 --> 01:06:30,491
<i>各国可以使用它</i>
<i>打造更强大的军队。</i>

1532
01:06:30,525 --> 01:06:33,293
英伟达已经超越
微软和苹果

1533
01:06:33,327 --> 01:06:36,564
成为世界上
最有价值的公司。

1534
01:06:36,598 --> 01:06:39,399
部署竞赛变成了
鲁莽的竞赛，

1535
01:06:39,433 --> 01:06:42,302
因为他们不能
快速部署

1536
01:06:42,336 --> 01:06:43,538
并做对。

1537
01:06:43,571 --> 01:06:46,440
他们相信
他们是好人。

1538
01:06:46,473 --> 01:06:49,611
“如果我不这么做，
没有的人

1539
01:06:49,644 --> 01:06:51,779
“和我一样有良好的价值观
将坐在桌边

1540
01:06:51,813 --> 01:06:55,082
做出决定，所以
我有义务这样做。”

1541
01:06:55,115 --> 01:06:56,551
是的，这是
一个非常普遍的信念。

1542
01:06:56,584 --> 01:06:59,152
很多很多很多，
也许大多数人

1543
01:06:59,186 --> 01:07:01,255
构建这项技术
相信这一点。

1544
01:07:01,288 --> 01:07:04,258
我担心
商业竞争，

1545
01:07:04,291 --> 01:07:06,393
但事实证明
我更担心的是

1546
01:07:06,426 --> 01:07:08,428
地缘政治竞争。

1547
01:07:08,462 --> 01:07:10,665
我们落后了八年
一年前。

1548
01:07:10,698 --> 01:07:12,800
现在我们可能
落后不到一年。

1549
01:07:12,834 --> 01:07:16,236
好吧，沙特阿拉伯
和阿联酋一直在比赛

1550
01:07:16,270 --> 01:07:18,673
建立数据中心
并给自己定位

1551
01:07:18,706 --> 01:07:20,675
<i>作为人工智能领域的主导力量......</i>

1552
01:07:20,708 --> 01:07:22,710
...打造韩国
全球人工智能领导者。

1553
01:07:22,744 --> 01:07:24,411
朱莉娅·西格：
法国总统埃马纽埃尔·马克龙

1554
01:07:24,444 --> 01:07:26,380
说了很多关于
人工智能...

1555
01:07:26,413 --> 01:07:27,715
现在更多关于以色列的角色

1556
01:07:27,749 --> 01:07:29,817
在人工智能领域
革命...

1557
01:07:29,851 --> 01:07:33,487
各国将展开竞争
人工智能技术为谁服务

1558
01:07:33,521 --> 01:07:35,355
创造下一代
的工业。

1559
01:07:35,389 --> 01:07:38,626
中国人坚持
那个人工智能，

1560
01:07:38,660 --> 01:07:40,360
由于在中国正在开发，

1561
01:07:40,394 --> 01:07:42,095
<i>强化核心价值观</i>

1562
01:07:42,129 --> 01:07:44,431
<i>中国共产党</i>
<i>和中国的制度。</i>

1563
01:07:44,464 --> 01:07:49,269
美国必须击败中国
在人工智能竞赛中。

1564
01:07:49,303 --> 01:07:51,639
丹尼尔：中国的，比如，
落后光年。

1565
01:07:51,673 --> 01:07:53,240
他们是吗？

1566
01:07:53,273 --> 01:07:55,442
我的意思是，他们还有更多
训练数据比我们多，

1567
01:07:55,475 --> 01:07:58,312
没有什么说他们
下个月不要放弃模型

1568
01:07:58,345 --> 01:08:01,415
那不是——
并没有比 GPT-4 好多少。

1569
01:08:01,448 --> 01:08:04,318
一切都很顺利。
可能会出什么问题？

1570
01:08:04,351 --> 01:08:07,254
-DeepSeek...（说中文）
-DeepSeek... -DeepSeek...

1571
01:08:07,287 --> 01:08:08,455
有一个新模型。

1572
01:08:08,488 --> 01:08:11,325
但来自中国实验室
称为 DeepSeek。

1573
01:08:11,358 --> 01:08:14,428
我们来谈谈DeepSeek，
因为它令人心旷神怡，

1574
01:08:14,461 --> 01:08:18,231
它正在震动这个
整个行业的核心。

1575
01:08:18,265 --> 01:08:19,701
特朗普政府
将确保

1576
01:08:19,734 --> 01:08:23,470
那个最强大的
人工智能系统是在美国建造的

1577
01:08:23,503 --> 01:08:27,174
与美国设计
并制造芯片。

1578
01:08:27,207 --> 01:08:29,343
人工智能是中国的
阿波罗计划。

1579
01:08:29,376 --> 01:08:30,745
<i>中国共产党</i>

1580
01:08:30,778 --> 01:08:32,179
<i>深刻了解潜力</i>

1581
01:08:32,212 --> 01:08:33,380
<i>让人工智能扰乱战争。</i>

1582
01:08:33,413 --> 01:08:35,650
谷歌不再承诺
它不会

1583
01:08:35,683 --> 01:08:38,886
使用人工智能
用于武器或监视。

1584
01:08:38,920 --> 01:08:40,487
中国、朝鲜、俄罗斯

1585
01:08:40,521 --> 01:08:42,222
我们会继续建造它
尽快

1586
01:08:42,255 --> 01:08:44,792
<i>为了获得更多的经济优势，</i>
<i>更高的生产力优势，</i>

1587
01:08:44,826 --> 01:08:47,361
<i>更具科学优势，</i>
<i>更多的军事优势，</i>

1588
01:08:47,394 --> 01:08:48,896
<i>因为人工智能可以制造更好的武器。</i>

1589
01:08:48,930 --> 01:08:52,299
如果你说的是
一个广泛而强大的系统

1590
01:08:52,332 --> 01:08:53,635
作为一位杰出的科学家，

1591
01:08:53,668 --> 01:08:58,271
它可能能够运行
军事行动

1592
01:08:58,305 --> 01:09:01,743
胜过任何将军
现在在美国政府。

1593
01:09:01,776 --> 01:09:06,213
台湾问题是造成
现在最紧张

1594
01:09:06,246 --> 01:09:08,382
北京和美国之间。

1595
01:09:08,415 --> 01:09:10,918
有一个直接的
对立分歧

1596
01:09:10,952 --> 01:09:12,452
<i>美国和中国之间</i>

1597
01:09:12,486 --> 01:09:14,454
<i>关于台湾是否</i>
<i>中国的一部分。</i>

1598
01:09:14,488 --> 01:09:18,926
马西尼：<i>台湾很重要</i>
<i>有很多原因。</i>

1599
01:09:18,960 --> 01:09:20,828
这里也是

1600
01:09:20,862 --> 01:09:24,565
约90%的先进芯片
为世界制造，

1601
01:09:24,599 --> 01:09:28,903
<i>这意味着供应</i>
<i>高级计算链</i>

1602
01:09:28,936 --> 01:09:31,506
<i>如果有的话就会有风险</i>

1603
01:09:31,539 --> 01:09:33,440
<i>某种场景</i>
<i>台湾各地，</i>

1604
01:09:33,473 --> 01:09:37,712
<i>是否a-封锁</i>
<i>或者中国的入侵。</i>

1605
01:09:38,311 --> 01:09:40,948
亨德里克斯：
<i>我们要参加什么比赛吗</i>

1606
01:09:40,982 --> 01:09:45,853
美国和中国之间
最终演变成

1607
01:09:45,887 --> 01:09:49,891
<i>军事化的人工智能军备竞赛，</i>
<i>你知道，潜在的线索</i>

1608
01:09:49,924 --> 01:09:51,659
<i>某些大国冲突？</i>

1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN：<i>即将离任</i>
<i>美国最高军事指挥官</i>

1610
01:09:53,528 --> 01:09:56,396
<i>在该地区</i>
<i>预测战争即将来临。</i>

1611
01:09:56,430 --> 01:09:58,432
我认为威胁是显而易见的
在这十年里，

1612
01:09:58,465 --> 01:09:59,967
事实上，在接下来的六年里。

1613
01:10:00,001 --> 01:10:01,769
马西尼：
<i>嗯，其中一个场景</i>

1614
01:10:01,803 --> 01:10:06,406
我担心的是
一场网络闪电战，

1615
01:10:06,440 --> 01:10:11,445
<i>嗯，其中一个</i>
<i>自主的网络工具</i>

1616
01:10:11,478 --> 01:10:13,447
<i>互相竞争</i>

1617
01:10:13,480 --> 01:10:15,248
以逐步升级的方式

1618
01:10:15,282 --> 01:10:17,317
没有
有意义的人类控制。

1619
01:10:19,386 --> 01:10:20,755
哈拉里：
<i>你生活在战区，</i>

1620
01:10:20,788 --> 01:10:24,357
这将由人工智能决定
是否轰炸你的房子

1621
01:10:24,391 --> 01:10:26,326
<i>以及是否要杀了你。</i>

1622
01:10:26,359 --> 01:10:27,995
让机器来决定吧。

1623
01:10:28,029 --> 01:10:29,731
<i>这就是诱惑。</i>

1624
01:10:29,764 --> 01:10:32,867
<i>这就是人工智能如此诱人的原因</i>
<i>供军队采用，</i>

1625
01:10:32,900 --> 01:10:36,003
<i>制造自主武器，</i>
<i>因为如果我开始相信</i>

1626
01:10:36,037 --> 01:10:39,607
<i>我的军事对手</i>
<i>将采用人工智能，</i>

1627
01:10:39,640 --> 01:10:42,375
<i>这将是一场谁能做到的竞赛</i>
<i>更快地扣动扳机。</i>

1628
01:10:42,409 --> 01:10:45,445
以及自动化的那个
那个决定，

1629
01:10:45,479 --> 01:10:47,615
而不是拥有
一个人在循环中，

1630
01:10:47,648 --> 01:10:49,817
是那个
那将赢得那场战争。

1631
01:10:49,851 --> 01:10:51,284
如果你想

1632
01:10:51,318 --> 01:10:53,755
核军备竞赛
在 20 世纪 40 年代...

1633
01:10:54,689 --> 01:10:56,891
...你了解德国人
正在研究炸弹，

1634
01:10:56,924 --> 01:11:01,361
所以这并不容易说清楚
罗伯特·奥本海默当时，

1635
01:11:01,394 --> 01:11:04,031
“呃，你知道，你慢点。”

1636
01:11:04,065 --> 01:11:05,900
所以看完这部电影后，
会很混乱，

1637
01:11:05,933 --> 01:11:07,300
因为你要回去

1638
01:11:07,334 --> 01:11:08,736
明天
你会使用ChatGPT，

1639
01:11:08,770 --> 01:11:10,772
将会是
难以置信的有帮助。

1640
01:11:10,805 --> 01:11:12,974
我也会用它，并且
这会非常有帮助。

1641
01:11:13,007 --> 01:11:16,611
你会说，“等等，所以
我刚刚看了一部关于人工智能的电影

1642
01:11:16,644 --> 01:11:18,513
“和存在风险
所有这些事情，

1643
01:11:18,546 --> 01:11:20,915
威胁又在哪里？”

1644
01:11:20,948 --> 01:11:24,986
ChatGPT 并不是这样的
存在的威胁。

1645
01:11:25,019 --> 01:11:29,322
这就是部署竞赛
最强大的，

1646
01:11:29,356 --> 01:11:32,093
深不可测，
不可控的技术，

1647
01:11:32,126 --> 01:11:35,630
最坏的情况下
可能的激励措施，

1648
01:11:35,663 --> 01:11:37,732
这就是存在的威胁。

1649
01:11:38,398 --> 01:11:40,935
丹尼尔：
但令我震惊的是——

1650
01:11:40,968 --> 01:11:43,671
我们正处于一场竞赛的背景下。

1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER：是的。
-而且是在竞争激烈的情况下，

1652
01:11:46,507 --> 01:11:48,109
“必须先到达那里，
必须赢得比赛”的设定，

1653
01:11:48,142 --> 01:11:49,544
“必须与中国竞争，

1654
01:11:49,577 --> 01:11:50,945
必须竞争
其他实验室。”

1655
01:11:50,978 --> 01:11:52,412
是不是这样？

1656
01:11:52,445 --> 01:11:54,115
今天的情况就是如此。

1657
01:11:54,148 --> 01:11:57,552
所以我们需要改变
那种比赛动态。

1658
01:11:58,519 --> 01:12:00,487
你不觉得吗？

1659
01:12:00,521 --> 01:12:02,857
我认为那会是
确实非常好。

1660
01:12:04,158 --> 01:12:06,928
我-我认为
有某种...

1661
01:12:06,961 --> 01:12:10,064
围绕人工智能的神秘主义
这让人感觉就像

1662
01:12:10,097 --> 01:12:11,999
它从天上掉下来。

1663
01:12:12,033 --> 01:12:14,001
丹尼尔：想到这个
作为一项神一般的技术

1664
01:12:14,035 --> 01:12:15,970
是一个问题。

1665
01:12:16,003 --> 01:12:17,672
是的。

1666
01:12:18,773 --> 01:12:20,473
为什么？

1667
01:12:20,508 --> 01:12:23,544
它给予许可
给公司...

1668
01:12:23,578 --> 01:12:26,714
（笑）
不承担责任

1669
01:12:26,747 --> 01:12:31,418
对于该软件的东西
他们建造的确实如此。

1670
01:12:31,451 --> 01:12:35,590
如果人们建立了这种联系，

1671
01:12:35,623 --> 01:12:37,859
也许那会像
帮助他们再次理解

1672
01:12:37,892 --> 01:12:42,462
的动态
所有的金钱和权力以及……

1673
01:12:42,495 --> 01:12:45,933
正在发生的混乱……

1674
01:12:45,967 --> 01:12:47,602
创造这项技术。

1675
01:12:47,635 --> 01:12:49,737
好像有五个人
谁控制它，对吗？

1676
01:12:49,770 --> 01:12:52,139
-比如，五个男人？
-基本上，是的。

1677
01:12:52,173 --> 01:12:54,642
-首席执行官们？
-是的。

1678
01:12:54,675 --> 01:12:55,977
好的。

1679
01:12:57,178 --> 01:12:59,580
♪ ♪

1680
01:13:01,616 --> 01:13:03,618
丹尼尔：
<i>有时感觉就像</i>

1681
01:13:03,651 --> 01:13:07,755
<i>我一直在做这个</i>
<i>就像无尽的旅程</i>

1682
01:13:07,788 --> 01:13:09,757
<i>试图理解这一点。</i>

1683
01:13:09,790 --> 01:13:12,994
你知道，就像
我正在爬山...

1684
01:13:15,930 --> 01:13:19,634
<i>...每次</i>
<i>我喜欢爬上一座小山，</i>

1685
01:13:19,667 --> 01:13:21,035
<i>我想我已经达到顶峰</i>

1686
01:13:21,068 --> 01:13:24,005
<i>但它仍在继续</i>
<i>走啊走。</i>

1687
01:13:24,038 --> 01:13:25,072
（相机咔哒声、呼呼声）

1688
01:13:25,106 --> 01:13:27,174
但从我所听到的一切来看

1689
01:13:27,208 --> 01:13:30,778
如果我必须猜是什么
在焦虑山顶上，

1690
01:13:30,811 --> 01:13:34,682
<i>就是这五位首席执行官</i>
<i>来自这五家公司，</i>

1691
01:13:34,715 --> 01:13:37,952
谁有点像
此时此刻的奥本海默。

1692
01:13:37,985 --> 01:13:40,054
这些都是家伙
谁正在建造这个东西。

1693
01:13:40,087 --> 01:13:41,454
是的。

1694
01:13:41,488 --> 01:13:44,659
比如，有计划吗？

1695
01:13:44,692 --> 01:13:46,827
公司负责人
这使得 ChatGPT

1696
01:13:46,861 --> 01:13:50,531
警告可能的
对世界造成重大危害。

1697
01:13:50,564 --> 01:13:53,000
我想，如果这项技术
出错了，

1698
01:13:53,034 --> 01:13:54,068
它可能会出错。

1699
01:13:54,101 --> 01:13:56,237
（爆发出明显的喋喋不休）

1700
01:13:56,270 --> 01:13:58,072
丹尼尔：
<i>五个家伙。</i>

1701
01:13:58,105 --> 01:14:01,943
我-我从来没有想过我们
作为一家社交媒体公司。

1702
01:14:01,976 --> 01:14:06,814
这-感觉我必须尝试一下
然后-然后找到这些人...

1703
01:14:06,847 --> 01:14:07,515
嗯嗯。

1704
01:14:07,548 --> 01:14:09,784
...然后让它们出现在电影中。

1705
01:14:10,584 --> 01:14:13,554
我们当然会得到
从中可以得到一些清晰的认识。

1706
01:14:14,188 --> 01:14:15,723
（相机咔哒声、呼呼声）

1707
01:14:16,590 --> 01:14:19,860
<i>我的意思是，责任必须停止</i>
<i>某个地方，对吧？</i>

1708
01:14:19,894 --> 01:14:21,862
（风呼啸）

1709
01:14:21,896 --> 01:14:23,731
♪ ♪

1710
01:14:24,398 --> 01:14:26,734
（工具发出呼呼声和咔哒声）

1711
01:14:27,668 --> 01:14:29,870
（呼啸）

1712
01:14:34,608 --> 01:14:35,810
丹尼尔：
那种感觉怎么样？

1713
01:14:35,843 --> 01:14:38,212
-伟大的。
-这样可以吗？

1714
01:14:38,245 --> 01:14:39,847
-是的。
-（船员们模糊的交谈声）

1715
01:14:39,880 --> 01:14:41,582
-我可以把座位向前移吗？
-丹尼尔：是的，你可以。

1716
01:14:41,615 --> 01:14:42,717
这，呃，这只是
有点尴尬。

1717
01:14:42,750 --> 01:14:43,985
我有点像...

1718
01:14:44,018 --> 01:14:45,619
达里奥，你感觉如何
关于那把椅子？

1719
01:14:45,653 --> 01:14:47,588
嗯，是的，椅子很好。

1720
01:14:47,621 --> 01:14:49,290
-我只是想移动它
向前一点。 -好的。

1721
01:14:49,323 --> 01:14:51,125
我选了那把椅子。

1722
01:14:51,158 --> 01:14:52,727
- 这是一把好椅子。
-谢谢。

1723
01:14:52,760 --> 01:14:54,562
（手机铃声响起）

1724
01:14:58,332 --> 01:15:00,500
泰德：
然后就坐在那里。

1725
01:15:02,036 --> 01:15:03,104
然后经过这里，

1726
01:15:03,137 --> 01:15:05,006
我们会看着对方
透过这块玻璃。

1727
01:15:05,039 --> 01:15:07,074
（忙音提示音）

1728
01:15:11,879 --> 01:15:13,948
然后坐回椅子上，
向前倾斜？

1729
01:15:13,981 --> 01:15:15,683
-丹尼尔：是的。好吧，无论怎样
舒服，我想。 -好的。

1730
01:15:15,716 --> 01:15:17,018
这有点酷。
那里有一堆镜子。

1731
01:15:17,051 --> 01:15:18,285
-这样吗--好吧。
- 女士：Sam A.，拿一个。标记。

1732
01:15:18,319 --> 01:15:19,920
-怎么样？
-好的。谢谢。

1733
01:15:19,954 --> 01:15:21,622
丹尼尔：起源
这个项目的重点是我

1734
01:15:21,655 --> 01:15:23,290
坐在家里，
我正在玩，

1735
01:15:23,324 --> 01:15:24,859
我认为，你的图像生成器，

1736
01:15:24,892 --> 01:15:27,762
而我同时，
呃，吓坏了

1737
01:15:27,795 --> 01:15:29,897
- 真的印象深刻。
-（轻笑）

1738
01:15:29,930 --> 01:15:32,333
- 这是通常的组合。
-然后切到

1739
01:15:32,366 --> 01:15:35,002
我和我的妻子发现
我们期待着。

1740
01:15:35,036 --> 01:15:38,773
而且-而且我，就像，有
存在危机

1741
01:15:38,806 --> 01:15:40,775
就像我妻子一样
怀孕六个月。

1742
01:15:40,808 --> 01:15:43,577
我认为我的第一个问题是
我问大家：

1743
01:15:43,611 --> 01:15:46,080
现在是一个可怕的时刻
想要一个孩子吗？

1744
01:15:46,113 --> 01:15:47,848
我犯了一个大错误吗？

1745
01:15:47,882 --> 01:15:49,650
我在等一个孩子
三月份也是。我的第一个。

1746
01:15:49,683 --> 01:15:50,918
-你在等一个孩子吗？
-是的。

1747
01:15:50,951 --> 01:15:52,319
-你预计三月份吗？
-第一个孩子。

1748
01:15:52,353 --> 01:15:53,788
-马泽尔托夫。
-非常感谢。

1749
01:15:53,821 --> 01:15:54,922
我从来没有这么兴奋过
对于任何事情。

1750
01:15:54,955 --> 01:15:57,091
-这就是我的感觉。
-是的。

1751
01:15:57,124 --> 01:15:58,759
但你不害怕吗？

1752
01:15:58,793 --> 01:16:03,064
我的意思是，就像，有一个孩子是
只是这件重大的事情

1753
01:16:03,097 --> 01:16:05,633
我，你知道，
我每天晚上都熬夜，就像

1754
01:16:05,666 --> 01:16:07,334
阅读这些关于
如何抚养孩子，

1755
01:16:07,368 --> 01:16:08,769
我希望
我一定会做好事的

1756
01:16:08,803 --> 01:16:09,804
感觉
非常压倒性的并且——

1757
01:16:09,837 --> 01:16:12,673
但我并不害怕...

1758
01:16:12,706 --> 01:16:14,675
为了孩子的成长
在人工智能的世界里。

1759
01:16:14,708 --> 01:16:16,811
就像，那是……没关系。

1760
01:16:16,844 --> 01:16:19,280
很高兴听到
来自那个家伙。

1761
01:16:19,313 --> 01:16:21,082
我认为这是个好主意
生孩子。

1762
01:16:21,115 --> 01:16:23,784
我-我认为他们是最
神奇的、不可思议的事情。

1763
01:16:23,818 --> 01:16:25,820
——（重重地叹了口气）
——有太多的不确定性，

1764
01:16:25,853 --> 01:16:27,188
我几乎会这样做
无论如何你要做什么。

1765
01:16:27,221 --> 01:16:29,223
我知道那不是
非常满意的答复，

1766
01:16:29,256 --> 01:16:32,359
但这是唯一的一个
我能想出。

1767
01:16:32,393 --> 01:16:34,929
我们的孩子永远不会...

1768
01:16:34,962 --> 01:16:37,331
知道一个没有的世界
真正先进的人工智能。

1769
01:16:37,364 --> 01:16:40,167
事实上，我们的孩子永远不会
比人工智能更聪明。

1770
01:16:40,201 --> 01:16:42,703
丹尼尔：“我们的孩子会
永远不会比人工智能更聪明”？

1771
01:16:42,736 --> 01:16:44,839
嗯，从原始的角度来看，
从原始智商的角度来看，

1772
01:16:44,872 --> 01:16:46,807
他们永远不会
比人工智能更聪明。

1773
01:16:46,841 --> 01:16:48,309
这个观念不
让你有点不安吗？

1774
01:16:48,342 --> 01:16:51,712
因为这让我感觉
有点奇怪地感到恶心。

1775
01:16:51,745 --> 01:16:55,316
嗯，这确实让我不安
一点点。

1776
01:16:55,349 --> 01:16:56,817
但这是现实。

1777
01:16:56,851 --> 01:16:58,819
丹尼尔：
好的，所以比赛动态。

1778
01:16:58,853 --> 01:17:01,655
我们有一群人
谁都同意

1779
01:17:01,689 --> 01:17:03,190
这很可怕。

1780
01:17:03,224 --> 01:17:05,126
根据时间表
很多人给了我，

1781
01:17:05,159 --> 01:17:07,661
我们有两个月的时间
五年的时间来解决这个问题。

1782
01:17:07,695 --> 01:17:09,063
-是的。
-而且-而且，我猜，

1783
01:17:09,096 --> 01:17:13,767
我最大的问题是：
为什么我们不能停下来？

1784
01:17:14,768 --> 01:17:19,340
问题是，呃呃，
“只是停下来”就是，嗯，

1785
01:17:19,373 --> 01:17:22,776
现在有很多很多团体
世界各地啊啊啊

1786
01:17:22,810 --> 01:17:26,113
构建这个，为了
许多国家、许多公司、

1787
01:17:26,147 --> 01:17:28,749
嗯，全部与
不同的动机。

1788
01:17:28,782 --> 01:17:31,152
有一些
这个领域的这些公司

1789
01:17:31,185 --> 01:17:34,455
他们的立场是谁，“我们想要
开发这项技术

1790
01:17:34,488 --> 01:17:36,323
绝对尽可能快。”

1791
01:17:36,357 --> 01:17:40,694
即使我们可以通过法律
在美国和欧洲，

1792
01:17:40,728 --> 01:17:42,897
我们需要说服...

1793
01:17:42,930 --> 01:17:45,266
习近平和弗拉基米尔·普京
或者，你知道，

1794
01:17:45,299 --> 01:17:47,968
无论谁的科学
顾问站在他们一边。

1795
01:17:48,002 --> 01:17:49,837
那真的会很难。

1796
01:17:49,870 --> 01:17:51,238
我认为这是真的

1797
01:17:51,272 --> 01:17:54,041
如果两个人
在完全相同的地方，

1798
01:17:54,074 --> 01:17:56,410
呃，愿意接受的人
更多安全捷径

1799
01:17:56,443 --> 01:17:58,746
应该有点
“先到那里吧。”

1800
01:17:58,779 --> 01:18:01,715
呃，但是...

1801
01:18:01,749 --> 01:18:03,284
我们能够利用我们的领先优势

1802
01:18:03,317 --> 01:18:06,720
花费更多的时间
进行安全测试。

1803
01:18:06,754 --> 01:18:08,455
丹尼尔：
还有——如果你丢了怎么办？

1804
01:18:08,489 --> 01:18:10,057
你接到电话
你发现

1805
01:18:10,090 --> 01:18:12,092
比如说你现在
落后六个月。

1806
01:18:12,126 --> 01:18:14,828
-什-然后会发生什么？
-取决于我们落后于谁。

1807
01:18:14,862 --> 01:18:17,364
如果是的话，比如
敌对政府，

1808
01:18:17,398 --> 01:18:19,200
这可能真的很糟糕。

1809
01:18:19,233 --> 01:18:21,902
假设您接到电话
中国有一个，

1810
01:18:21,936 --> 01:18:25,172
有一个递归的
自我提升剂

1811
01:18:25,206 --> 01:18:27,808
或者类似的东西我们
应该真正担心。

1812
01:18:27,841 --> 01:18:30,010
发生了什么事？

1813
01:18:31,478 --> 01:18:33,113
嗯...

1814
01:18:35,950 --> 01:18:37,484
这种情况需要...

1815
01:18:37,519 --> 01:18:41,088
第一步将会是
与美国政府交谈。

1816
01:18:41,121 --> 01:18:43,457
山姆，你相信吗？
政府处理能力

1817
01:18:43,490 --> 01:18:45,292
像这样的东西？

1818
01:18:46,427 --> 01:18:48,162
是的，实际上我愿意。

1819
01:18:48,195 --> 01:18:50,030
还有其他事情我不知道
相信政府能够处理，

1820
01:18:50,064 --> 01:18:51,832
但那个特定的场景，
我想他们会知道...

1821
01:18:51,865 --> 01:18:53,167
他们-他们--是的。

1822
01:18:53,200 --> 01:18:54,969
丹尼尔：当你有的时候，
喜欢，私人讨论

1823
01:18:55,002 --> 01:18:56,937
和其他人一起
手指放在扳机上，

1824
01:18:56,971 --> 01:19:00,241
可以这么说，嗯，
进行那些私人讨论

1825
01:19:00,274 --> 01:19:01,875
让你充满信心

1826
01:19:01,909 --> 01:19:03,545
或者他们让你，
呃，更着急了？

1827
01:19:03,578 --> 01:19:07,414
听着，我是说，我-我知道一些
他们比其他人更好。

1828
01:19:07,448 --> 01:19:10,417
嗯，我更有信心了
其中一些比我有

1829
01:19:10,451 --> 01:19:12,920
在其他方面，你知道，
与任何人一样。

1830
01:19:12,953 --> 01:19:14,388
你知道，
你想想，你知道，

1831
01:19:14,421 --> 01:19:16,223
你高中的孩子们
类什么的，对吧？

1832
01:19:16,257 --> 01:19:18,526
你知道，其中一些是
你知道，真的很甜蜜。

1833
01:19:18,560 --> 01:19:20,961
其中有些是善意的
但没那么有效。

1834
01:19:20,995 --> 01:19:22,930
其中一些是，
你知道，恶霸们。

1835
01:19:22,963 --> 01:19:24,198
其中一些是
真是坏人。

1836
01:19:24,231 --> 01:19:26,300
（结巴）
你——你真的有点，

1837
01:19:26,333 --> 01:19:27,535
你真的看到了传播。

1838
01:19:27,569 --> 01:19:29,236
你知道吗，我是吗？
我有信心吗

1839
01:19:29,270 --> 01:19:31,071
每个人都会做的
正确的事，

1840
01:19:31,105 --> 01:19:32,540
一切都会顺利吗？

1841
01:19:32,574 --> 01:19:34,241
嗯，不，我不是。

1842
01:19:34,275 --> 01:19:36,010
还有——什么也没有
我可以做到这一点，对吗？

1843
01:19:36,043 --> 01:19:38,379
你知道，我能做的一切
is-is 推动，

1844
01:19:38,412 --> 01:19:39,813
推动，你知道，

1845
01:19:39,847 --> 01:19:41,181
推动政府
参与其中。

1846
01:19:41,215 --> 01:19:43,150
但最终我只是
那里也有一个人。

1847
01:19:43,183 --> 01:19:44,586
那是——
这取决于我们所有人

1848
01:19:44,619 --> 01:19:46,353
推动政府
参与其中。

1849
01:19:46,387 --> 01:19:49,023
这是第一件事
那-那我认为我们需要做

1850
01:19:49,056 --> 01:19:51,292
to-to，你知道，设置事物
朝着正确的方向。

1851
01:19:51,325 --> 01:19:53,160
是什么让我焦虑
关于那个，就像，

1852
01:19:53,193 --> 01:19:56,463
的基本现实是
该技术的速度

1853
01:19:56,497 --> 01:19:58,966
正在增殖和增长
是指数的，

1854
01:19:58,999 --> 01:20:02,002
以及立法机制
已经300岁了，

1855
01:20:02,036 --> 01:20:03,304
-永远。
-是的。

1856
01:20:03,337 --> 01:20:05,573
嗯，我-我想
这将是一个沉重的负担。

1857
01:20:05,607 --> 01:20:07,274
我-我绝对同意
与你一起。

1858
01:20:07,308 --> 01:20:09,276
丹尼尔：你知道，
我真正在寻找什么

1859
01:20:09,310 --> 01:20:11,513
是-就像，
“这里有一些步骤，比如，

1860
01:20:11,546 --> 01:20:15,449
“头儿们会
take to-注重安全，

1861
01:20:15,482 --> 01:20:18,586
以减轻危险
并最大化承诺。”

1862
01:20:18,620 --> 01:20:20,588
而我不，
我不知道，我不知道

1863
01:20:20,622 --> 01:20:22,423
那里有
对此的简单回答。

1864
01:20:22,456 --> 01:20:24,091
嗯...

1865
01:20:26,360 --> 01:20:28,262
我的意思是，这也许是
太简单了，

1866
01:20:28,295 --> 01:20:30,632
但你...

1867
01:20:30,665 --> 01:20:32,333
创建一个新模型，

1868
01:20:32,366 --> 01:20:35,202
你研究并测试它
非常仔细。

1869
01:20:35,235 --> 01:20:37,871
你把它拿出来
逐渐走进这个世界，

1870
01:20:37,905 --> 01:20:40,074
然后，越来越多，
你明白

1871
01:20:40,107 --> 01:20:41,875
不管安全与否
然后如果是的话

1872
01:20:41,909 --> 01:20:43,377
您可以进行下一步。

1873
01:20:44,445 --> 01:20:47,414
听起来并不那么华而不实
就像一位杰出的科学家

1874
01:20:47,448 --> 01:20:50,652
提出一个想法
实验室制作人工智能系统，例如，

1875
01:20:50,685 --> 01:20:54,355
完全安全可控
以及其他一切，

1876
01:20:54,388 --> 01:20:56,190
但这就是我所相信的
将会发生。

1877
01:20:56,223 --> 01:20:57,559
就像，这就是方式
我认为这有效。

1878
01:20:57,592 --> 01:20:59,561
但我们只能说
可怕的事情发生了

1879
01:20:59,594 --> 01:21:02,429
就像模特松开一样
或者变得流氓什么的。

1880
01:21:02,463 --> 01:21:04,031
有协议吗？

1881
01:21:04,064 --> 01:21:06,266
就像，从字面上看，
我想象着一部红色手机。

1882
01:21:06,300 --> 01:21:07,635
-是的。
-抱歉想到这个

1883
01:21:07,669 --> 01:21:09,103
就电影而言，但是，就像...

1884
01:21:09,136 --> 01:21:10,371
有一个协议。

1885
01:21:10,404 --> 01:21:12,039
- 有红色手机吗
在你的桌子上吗？ -不。

1886
01:21:12,072 --> 01:21:13,508
（笑）：
这是一个秘密吗？

1887
01:21:13,541 --> 01:21:15,643
我的意思是，呃，不，不是，
它并不那么奇特或戏剧性

1888
01:21:15,677 --> 01:21:17,512
正如你所希望的那样，
但有，比如，你知道——

1889
01:21:17,545 --> 01:21:19,279
我们已经想通了
这些场景，

1890
01:21:19,313 --> 01:21:21,081
如果发生这种情况
我们要给这些人打电话

1891
01:21:21,115 --> 01:21:22,349
按此顺序并执行此操作

1892
01:21:22,383 --> 01:21:24,017
和种类
这些决定如果——

1893
01:21:24,051 --> 01:21:26,387
我确实相信
当你有机会的时候

1894
01:21:26,420 --> 01:21:29,423
之前先思考一下
发生紧张的情况，

1895
01:21:29,456 --> 01:21:30,991
这几乎总是
好主意。

1896
01:21:31,024 --> 01:21:32,226
把它写下来很有帮助。

1897
01:21:32,259 --> 01:21:34,128
- 做好准备很有帮助。
-是的。

1898
01:21:34,962 --> 01:21:36,397
（叹气）你……

1899
01:21:36,430 --> 01:21:39,233
这是不可能的
让我坐在你对面

1900
01:21:39,266 --> 01:21:41,669
并且-并要求你答应我
这会顺利吗？

1901
01:21:41,703 --> 01:21:43,504
那是不可能的。

1902
01:21:44,104 --> 01:21:46,173
没有任何简单的答案，
不幸的是。

1903
01:21:46,206 --> 01:21:48,442
呃，因为是这样的
尖端技术，

1904
01:21:48,475 --> 01:21:50,244
嗯，还有
很多未知数。

1905
01:21:50,277 --> 01:21:52,714
我认为
那-那需要是，

1906
01:21:52,747 --> 01:21:55,416
嗯，呃，你知道，明白了

1907
01:21:55,449 --> 01:21:59,554
并且-因此需要
呃，呃，需要谨慎一些。

1908
01:21:59,587 --> 01:22:01,288
我每天醒来，你知道，

1909
01:22:01,321 --> 01:22:04,024
这是，这是
我想到的第一件事。

1910
01:22:04,057 --> 01:22:05,459
现在，看，我是人类，

1911
01:22:05,492 --> 01:22:08,596
而且，你知道，有-有
每一个决定都是完美的吗？

1912
01:22:08,630 --> 01:22:12,166
我能说出我的动机吗
总是很清楚吗？

1913
01:22:12,199 --> 01:22:14,101
当然不是。
没有人能这么说。

1914
01:22:14,134 --> 01:22:17,004
比如说，那是——那是
只是不是，就像，你知道——

1915
01:22:17,037 --> 01:22:19,173
那是-那不是
人们如何工作。

1916
01:22:19,206 --> 01:22:21,408
科学史
往往是这样的，

1917
01:22:21,442 --> 01:22:23,745
无论好坏，
如果有什么可以做的话——

1918
01:22:23,778 --> 01:22:27,414
我们现在知道人工智能是可能的
人类做到了。

1919
01:22:27,448 --> 01:22:30,217
所有这一切
曾经——将会发生。

1920
01:22:30,250 --> 01:22:32,587
这这列火车
不会停止。

1921
01:22:32,620 --> 01:22:34,722
你不能走到前面
火车并停下来。

1922
01:22:34,756 --> 01:22:36,724
你只会被压扁。

1923
01:22:36,758 --> 01:22:39,226
奥特曼：
我的意思是，压力很大。

1924
01:22:40,194 --> 01:22:41,462
你知道，有，比如，

1925
01:22:41,495 --> 01:22:43,197
很多事情
我们很多人都不知道。

1926
01:22:43,230 --> 01:22:47,000
我认为历史
科学发现的意义在于

1927
01:22:47,034 --> 01:22:48,736
不知道之一
你不知道什么

1928
01:22:48,770 --> 01:22:50,204
并边走边弄清楚。

1929
01:22:50,237 --> 01:22:53,575
呃，但是，是的，这是一个...

1930
01:22:53,608 --> 01:22:55,976
这是一种充满压力的生活方式。

1931
01:22:56,811 --> 01:22:59,246
丹尼尔：对。萨姆，谢谢你
非常感谢这样做。

1932
01:22:59,279 --> 01:23:01,081
-再说一遍，马泽尔·托夫。
-谢谢。还有你。

1933
01:23:01,114 --> 01:23:03,383
太感谢了。谢谢，伙计们。

1934
01:23:03,417 --> 01:23:06,253
♪ ♪

1935
01:23:08,388 --> 01:23:09,990
（叹气）

1936
01:23:11,593 --> 01:23:13,528
（电噼啪声）

1937
01:23:13,561 --> 01:23:16,363
-（雷霆裂痕）
-（嘶嘶声、咕噜声）

1938
01:23:43,190 --> 01:23:45,392
-（录像机点击声）
-（线路振铃）

1939
01:23:48,328 --> 01:23:49,797
-（线路点击）
-凯文·罗尔：<i>你好。</i>

1940
01:23:49,831 --> 01:23:51,131
丹尼尔：
<i>嘿，爸爸，你好吗？</i>

1941
01:23:51,164 --> 01:23:52,165
凯文：
好。你好吗？</i>

1942
01:23:52,199 --> 01:23:53,500
<i>你在工作吗？你在忙什么？</i>

1943
01:23:53,535 --> 01:23:55,770
丹尼尔：
<i>我正在制作这部人工智能电影。</i>

1944
01:23:55,803 --> 01:23:58,305
凯文：
<i>进展如何？</i>

1945
01:23:58,338 --> 01:24:00,708
丹尼尔：
<i>你知道，这...这真的...</i>

1946
01:24:00,742 --> 01:24:02,544
-乔安妮·罗尔：<i>嗨，亲爱的。</i>
-丹尼尔：<i>嗨，妈妈。</i>

1947
01:24:02,577 --> 01:24:04,344
乔安妮：<i>那是什么</i>
<i>电影的前提？</i>

1948
01:24:04,378 --> 01:24:07,180
<i>这是一部纪录片吗？</i>
<i>Kev，别再用香料了。</i>

1949
01:24:07,214 --> 01:24:08,816
<i>已经太辣了。</i>

1950
01:24:08,850 --> 01:24:10,718
<i>我们现在正在做鸡肉。</i>

1951
01:24:10,752 --> 01:24:13,186
<i>-这是一部纪录片还是什么......</i>
-丹尼尔：<i>这是关于--</i>

1952
01:24:13,220 --> 01:24:14,421
<i>这部电影讲述的是</i>
<i>世界末日。</i>

1953
01:24:14,454 --> 01:24:16,290
<i>世界末日即将来临，</i>

1954
01:24:16,323 --> 01:24:18,158
<i>我们正在制作一部电影</i>
<i>关于世界末日。</i>

1955
01:24:18,191 --> 01:24:20,327
-乔安妮：<i>真的吗？</i>
-丹尼尔：<i>是的。</i>

1956
01:24:20,360 --> 01:24:22,162
凯文：<i>有点令人沮丧</i>
<i>电影，听起来像。</i>

1957
01:24:22,195 --> 01:24:23,698
乔安妮：
<i>是的。</i>

1958
01:24:23,731 --> 01:24:29,436
丹尼尔：<i>我感觉很多，</i>
<i>就像——这种非常严重的焦虑。</i>

1959
01:24:29,469 --> 01:24:31,673
乔安妮：<i>太可怕了，</i>
<i>但一定有——</i>

1960
01:24:31,706 --> 01:24:35,810
<i>你知道吗，你们见面了吗</i>
<i>一些超级聪明的人</i>

1961
01:24:35,843 --> 01:24:38,312
<i>这会给你任何答案吗？</i>

1962
01:24:38,345 --> 01:24:40,113
丹尼尔：<i>就是这样</i>
<i>对此感到沮丧。</i>

1963
01:24:40,147 --> 01:24:41,683
<i>没有人知道。</i>

1964
01:24:41,716 --> 01:24:44,384
乔安妮：
<i>我只能说</i>

1965
01:24:44,418 --> 01:24:50,190
<i>每一代人都有过</i>
<i>像这样可怕的东西。</i>

1966
01:24:50,223 --> 01:24:52,760
凯文：<i>当我出生时</i>
<i>古巴导弹危机。</i>

1967
01:24:52,794 --> 01:24:54,596
（心跳平稳）

1968
01:24:54,629 --> 01:24:56,864
<i>我只是害怕那里</i>
<i>这将是一场核战争。</i>

1969
01:24:56,898 --> 01:24:58,298
乔安妮：
<i>是的，但我们不知道</i>

1970
01:24:58,332 --> 01:24:59,534
<i>他们要做什么......</i>

1971
01:24:59,567 --> 01:25:01,168
凯文：
<i>世界并没有终结。</i>

1972
01:25:01,201 --> 01:25:02,202
<i>大家都醒了</i>
<i>第二天早上，</i>

1973
01:25:02,235 --> 01:25:03,871
<i>我们仍在做我们的事情。</i>

1974
01:25:03,905 --> 01:25:05,439
丹尼尔：
<i>我很害怕，</i>

1975
01:25:05,472 --> 01:25:07,407
<i>尤其是</i>
<i>上下文，例如，</i>

1976
01:25:07,441 --> 01:25:09,577
<i>-你知道，宝宝和...</i>
-（胎儿心跳搏动）

1977
01:25:09,611 --> 01:25:11,178
凯文：
<i>这将是一个学习曲线。</i>

1978
01:25:11,211 --> 01:25:12,479
乔安妮：
<i>你会没事的。</i>

1979
01:25:12,513 --> 01:25:13,681
凯文：<i>你不能，</i>
<i>你无法思考</i>

1980
01:25:13,715 --> 01:25:14,849
<i>这是你无法控制的，丹尼尔。</i>

1981
01:25:14,882 --> 01:25:16,551
<i>记住这一点。</i>

1982
01:25:16,584 --> 01:25:18,251
丹尼尔（声音嘶哑）：
<i>我真的，我真的感觉</i>

1983
01:25:18,285 --> 01:25:19,587
<i>对此感到紧张和害怕。</i>

1984
01:25:19,621 --> 01:25:21,488
<i>有这么多</i>
<i>我无法控制。</i>

1985
01:25:21,522 --> 01:25:24,358
凯文：<i>别紧张。</i>
<i>你不能让这种事影响到你。</i>

1986
01:25:24,391 --> 01:25:26,794
<i>你只能控制</i>
<i>你可以控制什么，</i>

1987
01:25:26,828 --> 01:25:28,395
<i>这就是你所能做的。</i>

1988
01:25:28,428 --> 01:25:31,231
<i>你不能做更多的事情。</i>

1989
01:25:31,264 --> 01:25:33,433
<i>把它写在你的书里。</i>

1990
01:25:35,870 --> 01:25:37,572
♪ ♪

1991
01:25:44,712 --> 01:25:47,447
（胎儿心跳搏动）

1992
01:25:47,481 --> 01:25:49,651
（嚎叫）

1993
01:25:49,684 --> 01:25:52,219
卡罗琳：
<i>当你回头看时，</i>

1994
01:25:52,252 --> 01:25:54,922
<i>世界总是有终结的。</i>

1995
01:25:54,956 --> 01:25:57,357
<i>当你展望未来时，</i>

1996
01:25:57,391 --> 01:25:59,627
<i>世界总是有终结的。</i>

1997
01:25:59,661 --> 01:26:02,429
……着火了。
一栋房子已经着火了……

1998
01:26:02,462 --> 01:26:06,299
卡罗琳：<i>但是世界</i>
<i>也总是开始。</i>

1999
01:26:08,402 --> 01:26:10,437
丹尼尔：
你准备好了吗？

2000
01:26:10,470 --> 01:26:12,674
你真的准备好了吗？

2001
01:26:16,443 --> 01:26:18,278
丹尼尔：你想开车
或者你想让我开车？

2002
01:26:18,311 --> 01:26:19,547
卡罗琳：
你开车。

2003
01:26:20,815 --> 01:26:22,382
——（女人说话含糊不清）
-卡罗琳：好的。

2004
01:26:22,416 --> 01:26:24,284
丹尼尔：
谢谢你，玛丽亚。

2005
01:26:24,317 --> 01:26:26,654
女：这只是
感觉真的很抽筋。

2006
01:26:26,688 --> 01:26:28,355
-卡罗琳：<i>好的。</i>
-女士：<i>你准备好了吗？</i>

2007
01:26:28,388 --> 01:26:29,691
-卡罗琳：<i>是的。</i>
<i>-（模糊的喋喋不休）</i>

2008
01:26:29,724 --> 01:26:30,958
<i>（卡罗琳重重地叹了口气）</i>

2009
01:26:30,992 --> 01:26:33,326
女人：<i>你可能处于</i>
<i>医疗剧与所有......</i>

2010
01:26:34,595 --> 01:26:36,597
♪ ♪

2011
01:26:44,706 --> 01:26:46,607
-（静态爆裂声）
<i>-（模糊的喋喋不休）</i>

2012
01:26:49,610 --> 01:26:51,746
女人：
<i>...有些压力。</i>

2013
01:26:53,313 --> 01:26:54,749
<i>放松一下。</i>

2014
01:26:57,451 --> 01:26:59,821
<i>-（婴儿哭声）</i>
<i>-（设备发出蜂鸣声）</i>

2015
01:27:02,623 --> 01:27:05,626
丹尼尔：
<i>嗨，伙计。哦。</i>

2016
01:27:05,660 --> 01:27:06,961
<i>嗨，伙计。</i>

2017
01:27:06,994 --> 01:27:09,362
♪ ♪

2018
01:27:31,652 --> 01:27:34,321
凯文：
<i>这将是一个全新的世界</i>

2019
01:27:34,354 --> 01:27:35,723
<i>为了你，丹尼尔。</i>

2020
01:27:37,658 --> 01:27:40,762
<i>我想你会的</i>
<i>一位了不起的父亲。</i>

2021
01:27:41,863 --> 01:27:44,899
乔安妮（轻笑）：
<i>这是肯定的。</i>

2022
01:27:44,932 --> 01:27:47,068
<i>-（凯文哭泣）</i>
<i>-哦。</i>

2023
01:27:47,101 --> 01:27:49,302
<i>（继续哭泣）</i>

2024
01:27:49,336 --> 01:27:51,572
凯文：
<i>你会做得很好。</i>

2025
01:27:52,206 --> 01:27:53,541
乔安妮：
<i>凯夫，你为什么哭？</i>

2026
01:27:53,574 --> 01:27:55,076
凯文：
<i>我哭是因为...</i>

2027
01:27:55,109 --> 01:27:57,545
我不知道。我只是不...</i>

2028
01:27:57,578 --> 01:27:59,914
丹尼尔：<i>爸爸，你会</i>
<i>也让我哭。</i>

2029
01:27:59,947 --> 01:28:01,549
<i>你为什么哭？</i>

2030
01:28:03,651 --> 01:28:05,853
凯文：<i>我只知道</i>
<i>你会成为一个了不起的爸爸。</i>

2031
01:28:05,887 --> 01:28:07,655
丹尼尔（哭）：
<i>我只会成为一个伟大的爸爸</i>

2032
01:28:07,688 --> 01:28:09,957
<i>因为我有一个伟大的父亲。</i>

2033
01:28:09,991 --> 01:28:12,894
凯文：<i>我变得情绪化，</i>
<i>仅此而已。</i>

2034
01:28:12,927 --> 01:28:14,327
乔安妮：
<i>哇。</i>

2035
01:28:14,361 --> 01:28:15,462
（视频中有趣的闲聊）

2036
01:28:15,495 --> 01:28:17,064
（通过视频）：
男孩，哦，男孩！

2037
01:28:17,098 --> 01:28:18,633
天哪！

2038
01:28:19,267 --> 01:28:21,035
看看那些小脸蛋。

2039
01:28:21,068 --> 01:28:25,573
看看那些小脸蛋。
看看那些小脸蛋。

2040
01:28:25,606 --> 01:28:26,741
是的。

2041
01:28:26,774 --> 01:28:29,376
丹尼尔：
<i>我知道如何结束这部电影。</i>

2042
01:28:30,011 --> 01:28:31,712
<i>婴儿。</i>

2043
01:28:32,379 --> 01:28:35,883
<i>-电影的结尾是关于</i>
<i>宝贝们。</i> -（通过视频聊天）

2044
01:28:35,917 --> 01:28:37,618
<i>他们对生命充满肯定。</i>

2045
01:28:37,652 --> 01:28:39,486
<i>他们很累。</i>

2046
01:28:39,520 --> 01:28:41,421
-（宝宝笑）
<i>-他们很搞笑。</i>

2047
01:28:41,454 --> 01:28:42,957
<i>而且它们是值得的。</i>

2048
01:28:42,990 --> 01:28:46,828
<i>这部电影不是关于
<i>技术的内部运作原理。</i>

2049
01:28:46,861 --> 01:28:48,696
<i>这不是关于</i>
<i>亿万富翁首席执行官。</i>

2050
01:28:48,729 --> 01:28:50,665
<i>这与地缘政治无关。</i>

2051
01:28:50,698 --> 01:28:53,935
<i>这与恐怖无关</i>
<i>未来或世界末日，</i>

2052
01:28:53,968 --> 01:28:56,137
<i>因为我的世界</i>
<i>才刚刚开始。</i>

2053
01:28:56,170 --> 01:28:57,972
我正在建造一个婴儿床。

2054
01:28:58,005 --> 01:28:59,907
<i>就在这里，就是现在。</i>

2055
01:28:59,941 --> 01:29:01,008
（婴儿咕咕声）

2056
01:29:01,042 --> 01:29:02,743
<i>人工智能将改变一切</i>

2057
01:29:02,777 --> 01:29:05,913
<i>以太强大的方式</i>
<i>我们理解起来很复杂。</i>

2058
01:29:05,947 --> 01:29:09,717
<i>未来不是</i>
<i>由我们任何人决定。</i>

2059
01:29:10,818 --> 01:29:13,921
<i>但我可以决定的是</i>
<i>最好的丈夫</i>

2060
01:29:13,955 --> 01:29:17,992
<i>为了我的妻子和最好的</i>
<i>可能是我儿子的爸爸。</i>

2061
01:29:18,025 --> 01:29:21,796
<i>那么我们的人工智能未来是否</i>
<i>噩梦般的反乌托邦</i>

2062
01:29:21,829 --> 01:29:24,098
<i>或乌托邦</i>
<i>我们都梦想的，</i>

2063
01:29:24,131 --> 01:29:27,134
<i>我至少会知道</i>
<i>我已尽力而为</i>

2064
01:29:27,168 --> 01:29:30,605
<i>指导我的家人</i>
<i>通过这场人工智能革命。</i>

2065
01:29:30,638 --> 01:29:34,474
<i>无论如何，</i>
<i>我们将一起面对它。</i>

2066
01:29:34,508 --> 01:29:35,877
（振奋人心的音乐响起）

2067
01:29:35,910 --> 01:29:37,444
（音乐突然停止）

2068
01:29:37,477 --> 01:29:40,047
丹尼尔：
这只是我们的第一个想法。

2069
01:29:40,715 --> 01:29:43,084
这感觉如何？
你有这种感觉吗？

2070
01:29:43,117 --> 01:29:45,720
等等，我——就像，这不是——
这是一个笑话。

2071
01:29:45,753 --> 01:29:48,388
其实不是
你将如何结束它。

2072
01:29:50,591 --> 01:29:53,160
我的意思是，这只是一个想法。好的？

2073
01:29:53,194 --> 01:29:54,996
不，丹尼尔。

2074
01:29:55,029 --> 01:29:56,631
……呃，非常非常愚蠢。

2075
01:29:56,664 --> 01:29:59,166
你刚刚花了，我没有
知道，比如，多少年

2076
01:29:59,200 --> 01:30:03,104
我们一生致力于此，
与每一位领先专家交谈

2077
01:30:03,137 --> 01:30:05,539
在这个星球上关于这个主题，

2078
01:30:05,573 --> 01:30:08,175
你会结束它

2079
01:30:08,209 --> 01:30:11,444
与一些，比如，
昆巴亚废话？

2080
01:30:11,478 --> 01:30:14,048
有一颗小行星
前往地球。

2081
01:30:14,081 --> 01:30:15,917
你做什么工作？只是...

2082
01:30:15,950 --> 01:30:18,152
牵手
并希望一切顺利？

2083
01:30:18,185 --> 01:30:19,854
绝对不是。

2084
01:30:19,887 --> 01:30:22,924
我们必须——它哈——
它必须是...

2085
01:30:22,957 --> 01:30:25,026
结局不得不...

2086
01:30:26,493 --> 01:30:28,529
卡罗琳：
<i>好的，第一件事：</i>

2087
01:30:28,562 --> 01:30:32,033
<i>人工智能就在这里，</i>
<i>并且它会一直存在。</i>

2088
01:30:32,066 --> 01:30:33,534
屎已经从马里出来了

2089
01:30:33,567 --> 01:30:36,436
<i>但是马</i>
<i>我会继续拉屎。</i>

2090
01:30:38,873 --> 01:30:39,807
（人群欢呼）

2091
01:30:39,840 --> 01:30:41,943
你知道，基本的条件之一
历史规律

2092
01:30:41,976 --> 01:30:44,578
没什么
真的有一个开始

2093
01:30:44,612 --> 01:30:46,580
一切都没有结局。

2094
01:30:46,614 --> 01:30:48,049
它就这样继续下去。

2095
01:30:48,082 --> 01:30:50,918
人工智能离我们还很遥远
其全面发展。

2096
01:30:50,952 --> 01:30:53,087
卡罗琳：<i>即使</i>
<i>当前的人工智能泡沫破裂，</i>

2097
01:30:53,120 --> 01:30:54,956
<i>-人类永远不会停止</i>
-（噪音发生器吹响）

2098
01:30:54,989 --> 01:30:57,959
<i>建造越来越多</i>
<i>强大的技术。</i>

2099
01:30:57,992 --> 01:30:59,827
郝：
<i>您可以选择不使用人工智能</i>

2100
01:30:59,860 --> 01:31:02,730
或参与其中，但它是
无论如何都会影响到你。

2101
01:31:02,763 --> 01:31:04,231
丹尼尔：好的，太棒了。
所以我们完蛋了。

2102
01:31:04,265 --> 01:31:07,568
卡罗琳：不，我们不是
因为一件简单的事情。

2103
01:31:11,572 --> 01:31:13,574
这并非不可避免。

2104
01:31:13,607 --> 01:31:15,576
如果我们能看到它
明显地在一起，

2105
01:31:15,609 --> 01:31:18,813
明显的反应是
选择不同的东西。

2106
01:31:18,846 --> 01:31:21,615
我们需要非常清楚
改变游戏

2107
01:31:21,649 --> 01:31:23,517
从竞赛到垫底
进入一场力争上游的竞赛。

2108
01:31:23,551 --> 01:31:27,855
LEAHY：我们需要解决的问题
解决方案并不是专门针对人工智能的。

2109
01:31:27,888 --> 01:31:31,726
这是一般问题
我们如何建设一个社会

2110
01:31:31,759 --> 01:31:34,528
可以处理
强大的技术。

2111
01:31:34,562 --> 01:31:35,830
因为我们要得到

2112
01:31:35,863 --> 01:31:37,264
只会越来越强大
技术。

2113
01:31:37,298 --> 01:31:40,034
卡罗琳：
<i>我们需要升级我们的社会，</i>

2114
01:31:40,067 --> 01:31:41,902
<i>第一步是</i>
<i>走到一起</i>

2115
01:31:41,936 --> 01:31:43,838
<i>-而且要求很高...</i>
-全部：协调。

2116
01:31:43,871 --> 01:31:47,608
某种形式的国际
合作或协议

2117
01:31:47,641 --> 01:31:48,909
规范应该是什么。

2118
01:31:48,943 --> 01:31:50,544
你知道，应该怎样
他们被部署...

2119
01:31:50,578 --> 01:31:52,146
就像，真实的
国际外交

2120
01:31:52,179 --> 01:31:53,781
超级大国之中。

2121
01:31:53,814 --> 01:31:56,784
中国人也同样担心
作为美国人来说。

2122
01:31:56,817 --> 01:31:58,085
我觉得很难，
你知道，

2123
01:31:58,119 --> 01:31:59,920
在当前的
地缘政治气候，

2124
01:31:59,954 --> 01:32:01,756
——但我认为这是必要的。
-拉斯金：<i>当然。</i>

2125
01:32:01,789 --> 01:32:05,059
以完全相同的方式
人类最后一次

2126
01:32:05,092 --> 01:32:09,163
<i>开发了一项技术</i>
<i>这很危险...</i>

2127
01:32:09,830 --> 01:32:12,900
...这需要一个完整的、
前所未有的转变

2128
01:32:12,933 --> 01:32:15,169
<i>我们世界的结构。</i>

2129
01:32:15,770 --> 01:32:18,172
卡罗琳：
<i>所以我们需要完成这个工作，</i>

2130
01:32:18,205 --> 01:32:20,307
<i>再次发生前所未有的转变。</i>

2131
01:32:21,008 --> 01:32:24,678
你知道，我们和人们交谈
在这些人工智能公司工作的人，

2132
01:32:24,712 --> 01:32:25,846
他们说他们想做
不同的东西，

2133
01:32:25,880 --> 01:32:27,048
但他们需要公众压力。

2134
01:32:27,081 --> 01:32:28,716
他们需要政府
做某事。

2135
01:32:28,749 --> 01:32:30,217
然后我们就去DC，
他们说，

2136
01:32:30,251 --> 01:32:32,153
“好吧，我们需要硅谷
做一些不同的事情。

2137
01:32:32,186 --> 01:32:34,021
他们是那些将要
把护栏拿出来。”

2138
01:32:34,055 --> 01:32:36,057
所以每个人都指着
用手指指着别人，

2139
01:32:36,090 --> 01:32:39,927
他们同意的是
我们需要公众压力

2140
01:32:39,960 --> 01:32:41,796
为了别的事
发生。

2141
01:32:41,829 --> 01:32:43,164
这就是你

2142
01:32:43,197 --> 01:32:44,799
和所有的人
看这部电影就可以了。

2143
01:32:44,832 --> 01:32:45,833
卡罗琳：
<i>我们需要抓住领导者</i>

2144
01:32:45,866 --> 01:32:47,334
<i>在我们的政府</i>

2145
01:32:47,368 --> 01:32:48,969
<i>和领导者</i>
<i>这些公司负有责任。</i>

2146
01:32:49,003 --> 01:32:51,639
博瑞：
<i>无论您在哪个国家/地区，</i>

2147
01:32:51,672 --> 01:32:53,340
让他们知道
你不开心

2148
01:32:53,374 --> 01:32:54,975
以目前的现状。

2149
01:32:55,009 --> 01:32:57,678
所以，是的，说起来很无聊
打电话给你的国会议员。

2150
01:32:57,711 --> 01:32:59,880
我并不是说你应该
就这样做，但是，就像，

2151
01:32:59,914 --> 01:33:01,215
我们确实必须这样做。

2152
01:33:01,248 --> 01:33:02,883
就像，我们必须得到
政府参与其中。

2153
01:33:02,917 --> 01:33:04,185
丹尼尔：所以我们只是
打电话给他们说，

2154
01:33:04,218 --> 01:33:06,253
“嘿，停止大型科技公司
以免毁灭世界”？

2155
01:33:06,287 --> 01:33:09,223
卡罗琳：不，但是有
大量非常明显的，

2156
01:33:09,256 --> 01:33:11,225
简单的事情
我们可以要求很高。

2157
01:33:11,258 --> 01:33:12,960
我们需要透明度。

2158
01:33:12,993 --> 01:33:14,795
我们需要结束保密
存在于这些实验室内，

2159
01:33:14,829 --> 01:33:17,031
因为他们正在建设
强大的技术，

2160
01:33:17,064 --> 01:33:19,066
公众应该知道
这是怎么回事。

2161
01:33:19,100 --> 01:33:21,068
最终，
我们需要独立，

2162
01:33:21,102 --> 01:33:23,637
客观第三方
评估系统。

2163
01:33:23,671 --> 01:33:27,274
我们不能指望这些公司
给自己的作业评分。

2164
01:33:27,308 --> 01:33:31,378
如果-如果一家公司使用人工智能并且-并且
有AI与你互动，

2165
01:33:31,412 --> 01:33:35,249
它应该透露您是
与人工智能系统交互。

2166
01:33:35,282 --> 01:33:39,019
是的。而且-而且我们还需要
一个使公司

2167
01:33:39,053 --> 01:33:42,156
并承担法律责任
他们生产的人工智能系统。

2168
01:33:42,189 --> 01:33:46,293
我们需要确保有
是测试和安全标准

2169
01:33:46,327 --> 01:33:48,662
适用于每个人。

2170
01:33:48,696 --> 01:33:50,097
我们需要一些基本规则，

2171
01:33:50,131 --> 01:33:51,999
我们需要不断适应
那些规则

2172
01:33:52,032 --> 01:33:55,002
以这样的速度
技术不断发展。

2173
01:33:55,035 --> 01:33:57,738
LEAHY：<i>目前有</i>
<i>更多监管</i>

2174
01:33:57,771 --> 01:33:59,840
<i>关于卖三明治</i>
<i>向公众</i>

2175
01:33:59,874 --> 01:34:03,410
比建筑物上的
潜在的世界末日 AGI。

2176
01:34:03,444 --> 01:34:05,279
卡罗琳：
<i>最后一件事是</i>

2177
01:34:05,312 --> 01:34:07,214
<i>提升自己。</i>

2178
01:34:07,915 --> 01:34:10,284
这不是工作
比如安全团队

2179
01:34:10,317 --> 01:34:12,153
任何特定的实验室或首席执行官。

2180
01:34:12,186 --> 01:34:13,854
所以，就像，这是
每个人的工作。

2181
01:34:13,888 --> 01:34:15,156
不要，就像，离开它
由人工智能专家决定。

2182
01:34:15,189 --> 01:34:17,424
就像，（嘟嘟）那样。
就像，这一刻

2183
01:34:17,458 --> 01:34:19,460
我们正在转型
来自，像，

2184
01:34:19,493 --> 01:34:22,163
主要是人类的认知能力
比如说人工智能的认知能力，

2185
01:34:22,196 --> 01:34:23,197
并且影响着每个人，

2186
01:34:23,230 --> 01:34:25,166
我希望人们成为
参加那次谈话。

2187
01:34:25,199 --> 01:34:27,234
我想说，如果你认为
人工智能会杀死我们所有人，

2188
01:34:27,268 --> 01:34:28,969
你应该在工作
在人工智能研究领域

2189
01:34:29,003 --> 01:34:30,804
以确保它不会
因为你确实有

2190
01:34:30,838 --> 01:34:32,773
大量的代理机构。

2191
01:34:32,806 --> 01:34:34,208
卡罗琳：
<i>无论你是谁</i>

2192
01:34:34,241 --> 01:34:36,177
<i>你是专家</i>
<i>在您自己的行业中，</i>

2193
01:34:36,210 --> 01:34:39,413
<i>在你自己的学校，</i>
<i>在你自己的家庭中，</i>

2194
01:34:39,446 --> 01:34:43,050
<i>这取决于你</i>
<i>人工智能如何应用在您的生活中。</i>

2195
01:34:43,083 --> 01:34:45,319
无论你想加入
你的学校董事会

2196
01:34:45,352 --> 01:34:48,389
或者-或者你是否想问
你的雇主

2197
01:34:48,422 --> 01:34:49,924
他们如何使用
人工智能技术，

2198
01:34:49,957 --> 01:34:52,259
就像，我们所有人都可以完成这项工作。

2199
01:34:52,293 --> 01:34:56,330
已经有很多工会了
非常有效，例如，

2200
01:34:56,363 --> 01:34:59,333
<i>确定他们想要的方式</i>
<i>与这些系统交互。</i>

2201
01:34:59,366 --> 01:35:02,303
<i>-护士工会、教师工会。</i>
-（含糊不清的吟诵）

2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI：<i>我会喜欢</i>
<i>如果父母无处不在</i>

2203
01:35:05,072 --> 01:35:06,407
去了AI公司
并说，

2204
01:35:06,440 --> 01:35:08,342
“你怎样才能变得更好
就这个？”包括我们。

2205
01:35:08,375 --> 01:35:11,445
所以，我创立了 Encode Justice
当我15岁的时候。

2206
01:35:11,478 --> 01:35:15,082
<i>我们是世界第一</i>
<i>和最大的年轻人军队</i>

2207
01:35:15,115 --> 01:35:18,452
<i>为以人为本而奋斗</i>
<i>人工智能。</i>

2208
01:35:18,485 --> 01:35:21,288
你是谁并不重要
即使是最小的行动也会有所帮助，

2209
01:35:21,322 --> 01:35:24,291
甚至对话开始
真的非常非常有价值。

2210
01:35:24,325 --> 01:35:26,293
丹尼尔：
<i>所以我的工作可能是，</i>

2211
01:35:26,327 --> 01:35:28,295
<i>告诉巴比·莉拉这件事</i>
<i>晚餐时？</i>

2212
01:35:28,329 --> 01:35:30,364
卡罗琳：<i>老实说，是的，</i>
<i>这就是其中的一部分。</i>

2213
01:35:30,397 --> 01:35:32,099
我们要做的

2214
01:35:32,132 --> 01:35:34,969
很多事情
我们还没有想到。

2215
01:35:35,002 --> 01:35:36,503
人们会看
我们概述的任何内容

2216
01:35:36,538 --> 01:35:37,838
并说：“这还不够。”

2217
01:35:37,871 --> 01:35:39,473
重要的是力量

2218
01:35:39,507 --> 01:35:41,242
正在工作的
寻求解决方案

2219
01:35:41,275 --> 01:35:44,979
开始超过力量
正在研究解决方案。

2220
01:35:45,012 --> 01:35:46,947
让世界变得更美好
一直很难。

2221
01:35:46,981 --> 01:35:48,249
这从来都不容易。

2222
01:35:48,282 --> 01:35:50,317
比如，曾经有过
许多糟糕的事情

2223
01:35:50,351 --> 01:35:52,286
历史上发生过的事，
我们已经——

2224
01:35:52,319 --> 01:35:54,121
就像，人们曾经有过
为了解决这个问题，

2225
01:35:54,154 --> 01:35:57,191
然后他们站了起来
并改变了它。

2226
01:35:57,224 --> 01:36:00,894
有一个疯狂的数字
我们面临的挑战，

2227
01:36:00,928 --> 01:36:04,398
但如果我们能超越他们

2228
01:36:04,431 --> 01:36:08,536
我们可以开启更远的未来
我们最疯狂的想象力。

2229
01:36:08,570 --> 01:36:10,804
卡罗琳：
<i>我们必须团结起来</i>

2230
01:36:10,838 --> 01:36:14,875
<i>并找到之间的路径</i>
<i>承诺与危险。</i>

2231
01:36:14,908 --> 01:36:17,177
<i>我们不能悲观</i>
<i>或乐观主义者。</i>

2232
01:36:17,778 --> 01:36:20,180
<i>我们必须成为新事物。</i>

2233
01:36:22,182 --> 01:36:25,185
我的一个朋友打电话给我
一个末日乐观主义者

2234
01:36:25,219 --> 01:36:26,186
“末日乐观主义者”？

2235
01:36:26,220 --> 01:36:28,889
我想这可能是
我最喜欢的新词。

2236
01:36:28,922 --> 01:36:30,291
-（笑）-男人：可能是
这部电影的名字。

2237
01:36:30,324 --> 01:36:31,892
-可能是名字
这部电影的。 -（笑声）

2238
01:36:31,925 --> 01:36:34,862
-“末日乐观主义者”。
-“末日乐观主义者”。

2239
01:36:34,895 --> 01:36:36,430
是的。

2240
01:36:36,463 --> 01:36:37,898
我不相信厄运。

2241
01:36:37,931 --> 01:36:39,366
我相信生命的精神，

2242
01:36:39,400 --> 01:36:43,137
呃，我相信生活是
关于行动的能力。

2243
01:36:43,170 --> 01:36:44,905
-（人群唱歌）
<i>-联系的能力，</i>

2244
01:36:44,938 --> 01:36:47,141
<i>感受的能力。</i>

2245
01:36:49,376 --> 01:36:51,345
-（模糊的任务喋喋不休）
-（欢呼）

2246
01:36:51,378 --> 01:36:54,315
<i>我们必须加倍努力</i>
<i>越来越多</i>

2247
01:36:54,348 --> 01:36:57,384
<i>关于这些能力</i>
<i>我们作为人类所拥有的</i>

2248
01:36:57,418 --> 01:36:59,853
<i>机器人系统</i>
<i>永远不会。</i>

2249
01:37:00,487 --> 01:37:04,559
现在正是时候
做出这些决定

2250
01:37:04,592 --> 01:37:08,062
如何引导和支持
而不是分裂我们。

2251
01:37:08,095 --> 01:37:10,898
丹尼尔：听起来有点像
抚养一个孩子。

2252
01:37:10,931 --> 01:37:12,634
就是这样。是的。

2253
01:37:12,667 --> 01:37:15,035
CAROLINE：<i>人工智能可能</i>
<i>更多原始情报</i>

2254
01:37:15,069 --> 01:37:17,471
<i>-比我们小小的人类大脑，</i>
-（宝宝笑）

2255
01:37:17,504 --> 01:37:20,608
<i>但我们还有更多</i>
<i>不仅仅是我们的智力。</i>

2256
01:37:21,208 --> 01:37:25,379
情报是-是
解决问题的能力。

2257
01:37:25,412 --> 01:37:29,116
智慧是认识的能力
要解决哪些问题。

2258
01:37:31,519 --> 01:37:34,188
（船员们模糊的交谈声）

2259
01:37:34,221 --> 01:37:35,489
丹尼尔：
它可以放在你的冰箱上。

2260
01:37:35,523 --> 01:37:36,658
（笑）

2261
01:37:36,691 --> 01:37:38,626
尤德科斯基：
<i>所以，不要放弃。</i>

2262
01:37:38,660 --> 01:37:40,227
人类已经做到了

2263
01:37:40,260 --> 01:37:43,030
比这更困难的事情
在它的历史中。

2264
01:37:43,897 --> 01:37:46,967
只是很难说服
他们应该的人。

2265
01:37:47,000 --> 01:37:49,336
♪ ♪

2266
01:37:52,072 --> 01:37:53,273
（声音爆裂声）

2267
01:37:55,309 --> 01:37:57,277
丹尼尔：<i>所以，当我开始</i>
<i>制作这部电影，</i>

2268
01:37:57,311 --> 01:37:59,012
<i>我会说我是，</i>

2269
01:37:59,046 --> 01:38:01,348
基本上是一个愤世嫉俗的混蛋
关于这整件事。

2270
01:38:01,382 --> 01:38:03,450
<i>整个课程</i>
<i>制作电影</i>

2271
01:38:03,484 --> 01:38:05,152
<i>我终于明白了</i>
<i>那个，就像，</i>

2272
01:38:05,185 --> 01:38:06,987
<i>这是唯一的事情</i>
<i>我们不能。</i>

2273
01:38:07,756 --> 01:38:09,990
<i>...或其他任何内容</i>
<i>你想讨论吗？</i>

2274
01:38:10,023 --> 01:38:11,992
不，我认为我们涵盖了很多。

2275
01:38:12,025 --> 01:38:13,561
-是的。 （笑声）
- 男人：非常感谢。

2276
01:38:13,595 --> 01:38:15,295
谢谢。

2277
01:38:15,929 --> 01:38:17,498
丹尼尔：
<i>这是一个更大的问题</i>

2278
01:38:17,532 --> 01:38:19,400
<i>比任何人都多。</i>

2279
01:38:19,433 --> 01:38:22,136
<i>这将改变世界</i>
<i>我们不理解的方式。</i>

2280
01:38:22,169 --> 01:38:24,037
<i>这都是真的。</i>

2281
01:38:24,071 --> 01:38:26,106
-（笑）：好的。
-（含糊不清的喋喋不休）

2282
01:38:26,140 --> 01:38:28,208
丹尼尔：
<i>但我们确实有代理权</i>

2283
01:38:28,242 --> 01:38:30,411
<i>这就是我们对此所做的事情。</i>

2284
01:38:30,444 --> 01:38:33,113
随着前沿人工智能的发展
能力呈指数级增长...

2285
01:38:33,147 --> 01:38:34,682
丹尼尔：
<i>和现实</i>

2286
01:38:34,716 --> 01:38:37,151
<i>如果我们决定的话</i>
<i>没有希望</i>

2287
01:38:37,184 --> 01:38:39,420
<i>那么就没有希望了。</i>

2288
01:38:39,453 --> 01:38:41,221
...减轻压力
在地球上...

2289
01:38:41,255 --> 01:38:43,257
丹尼尔：
<i>但如果你决定</i>

2290
01:38:43,290 --> 01:38:46,293
<i>你想尝试...</i>

2291
01:38:47,194 --> 01:38:48,563
<i>...那你试试。</i>

2292
01:38:48,596 --> 01:38:50,931
<i>这很难。</i>

2293
01:38:51,733 --> 01:38:53,500
<i>但是你知道吗？</i>

2294
01:38:53,535 --> 01:38:57,137
<i>大事似乎不可能</i>
<i>在它们真正发生之前。</i>

2295
01:38:58,673 --> 01:39:01,676
<i>但是当它们最终发生时，</i>

2296
01:39:01,709 --> 01:39:05,713
<i>这是因为数百万人</i>
<i>采取了数百万次操作</i>

2297
01:39:05,747 --> 01:39:08,182
<i>让它们发生。</i>

2298
01:39:08,215 --> 01:39:10,752
<i>所以...</i>

2299
01:39:10,785 --> 01:39:13,220
<i>我们必须尝试。</i>

2300
01:39:14,087 --> 01:39:15,523
（重重地叹了口气）

2301
01:39:21,663 --> 01:39:24,298
<i>利害关系太大。</i>

2302
01:39:24,331 --> 01:39:26,366
♪ ♪

2303
01:39:33,040 --> 01:39:35,375
（胶片噼啪声）

2304
01:39:37,545 --> 01:39:41,749
看看令人难以置信的变化
我们经历过并幸存下来

2305
01:39:41,783 --> 01:39:43,317
从石器时代开始，

2306
01:39:43,350 --> 01:39:46,487
还有更大的变化
还没有到来。

2307
01:39:46,521 --> 01:39:50,090
（“因为尝试而失败”
由 Son Lux 演奏）

2308
01:40:19,086 --> 01:40:21,288
♪ ♪

2309
01:40:48,181 --> 01:40:50,718
♪ 我们现在要做什么？ ♪

2310
01:40:50,752 --> 01:40:53,755
♪ 我们因尝试而失败 ♪

2311
01:40:53,788 --> 01:40:55,690
♪ 我们失去了它 ♪

2312
01:40:55,723 --> 01:40:57,457
♪ 去尝试 ♪

2313
01:41:00,193 --> 01:41:02,764
♪ 我们现在要做什么？ ♪

2314
01:41:02,797 --> 01:41:05,733
♪ 我们因尝试而失败 ♪

2315
01:41:05,767 --> 01:41:07,602
♪ 我们失去了它 ♪

2316
01:41:07,635 --> 01:41:09,469
♪ 去尝试 ♪

2317
01:41:12,205 --> 01:41:14,709
♪ 现在我们能说什么？ ♪

2318
01:41:14,742 --> 01:41:17,745
♪ 我们的嘴只是在撒谎 ♪

2319
01:41:17,779 --> 01:41:19,212
♪ 我们的嘴 ♪

2320
01:41:19,246 --> 01:41:21,448
♪ 只是说谎 ♪

2321
01:41:25,720 --> 01:41:28,255
♪ 现在我们能说什么？ ♪

2322
01:41:28,288 --> 01:41:31,358
♪ 我们的嘴只是在撒谎 ♪

2323
01:41:31,391 --> 01:41:32,760
♪ 我们的嘴 ♪

2324
01:41:32,794 --> 01:41:34,762
♪ 只是说谎 ♪

2325
01:41:34,796 --> 01:41:37,197
♪ ♪

2326
01:42:01,522 --> 01:42:04,291
♪ 屈服并退出 ♪

2327
01:42:04,324 --> 01:42:07,294
♪ 我们在垂死中崛起 ♪

2328
01:42:07,327 --> 01:42:08,763
♪ 我们崛起 ♪

2329
01:42:08,796 --> 01:42:11,164
♪ 临终时 ♪

2330
01:42:13,568 --> 01:42:16,336
♪ 屈服并退出 ♪

2331
01:42:16,370 --> 01:42:19,272
♪ 我们在垂死中崛起 ♪

2332
01:42:19,306 --> 01:42:20,775
♪ 我们崛起 ♪

2333
01:42:20,808 --> 01:42:23,176
♪ 临终时 ♪

2334
01:42:25,546 --> 01:42:28,248
♪ 屈服并退出 ♪

2335
01:42:28,281 --> 01:42:31,251
♪ 我们在垂死中崛起 ♪

2336
01:42:31,284 --> 01:42:32,787
♪ 我们崛起 ♪

2337
01:42:32,820 --> 01:42:35,155
♪ 临终时 ♪

2338
01:42:37,558 --> 01:42:40,293
♪ 屈服并退出 ♪

2339
01:42:40,327 --> 01:42:43,263
♪ 我们在垂死中崛起 ♪

2340
01:42:43,296 --> 01:42:44,532
♪ 我们 ♪

2341
01:42:44,565 --> 01:42:46,601
♪ ♪

2342
01:43:16,263 --> 01:43:18,465
♪ ♪

2343
01:43:23,336 --> 01:43:25,840
♪ 哦，哦，哦，哦，哦 ♪

2344
01:43:25,873 --> 01:43:27,675
♪ 哦，哦，哦，哦 ♪

2345
01:43:27,709 --> 01:43:28,943
♪ 哦，哦 ♪

2346
01:43:28,976 --> 01:43:31,913
♪ 哦，哦，哦，哦，哦，哦 ♪

2347
01:43:31,946 --> 01:43:33,648
♪ 哦，哦，哦，哦 ♪

2348
01:43:33,681 --> 01:43:34,916
♪ 哦，哦 ♪

2349
01:43:34,949 --> 01:43:37,552
♪ 哦，哦，哦，哦，哦，哦 ♪

2350
01:43:37,585 --> 01:43:40,287
♪ 我们现在要做什么？ ♪

2351
01:43:40,320 --> 01:43:43,290
♪ 我们因尝试而失败 ♪

2352
01:43:43,323 --> 01:43:45,026
♪ 我们失去了它 ♪

2353
01:43:45,059 --> 01:43:46,861
♪ 去尝试 ♪

2354
01:43:46,894 --> 01:43:49,530
♪ 哦，哦，哦，哦，哦，哦 ♪

2355
01:43:49,564 --> 01:43:52,332
♪ 我们现在要做什么？ ♪

2356
01:43:52,365 --> 01:43:55,335
♪ 我们因尝试而失败 ♪

2357
01:43:55,368 --> 01:43:57,038
♪ 我们失去了它 ♪

2358
01:43:57,071 --> 01:43:58,940
♪ 去尝试。 ♪

2359
01:43:58,973 --> 01:44:01,374
♪ ♪

2360
01:44:23,798 --> 01:44:24,865
（歌曲结束）